Искусственный интеллект

[Kokovanja]

Шла четвёртая страница флуда мудрых мыслей по поводу ИИ. Какие девочки, кому они нужны?

[kkkkk]

Чем опаснее?

Всем, повторяю, эта технология ультимативна. Она предоставляет самые широкие возможности по сравнению с любыми другими технологиями, в любых задачах.

Добавлено спустя 6 минут 35 секунд:

а в мозгу, оказывается, происходят процессы на уровне квантовой механики? Причем это свежайшие исследования.

Не верю, чушь это все, принцип работы сознания легко объясняется обычной нейросетью, для объяснения работы которой никакой квантовой механики не нужно.

Добавлено спустя 3 минуты 36 секунд:

И это будет "типа мозг", который функционирует совсем не так, как человеческий.

Это не обязательно. Самолеты не машут крыльями, главное что летают.

Добавлено спустя 2 минуты 27 секунд:

Скажем, свежайшие исследования показывают, что за совесть отвечает отдельная часть мозга.

Свежайшие, это со времен Финеаса Гейджа.

Добавлено спустя 5 минут 35 секунд:

Ты роботов что ли имеешь в виду?

Ну если нравятся роботы, можешь заказать виртуальных роботов, а не живых лоль.

Добавлено спустя 1 минуту 55 секунд:

Создать ИИ, который мыслит в точности как человек, - задача такого же порядка, как создать компьютер размером с Австралию.

Сейчас есть 3д принтеры, потом будут 3д сканеры, когда они достигнут атомарной точности, можно будет начинать.

Добавлено спустя 3 минуты 30 секунд:

А все эти байки про технологическую сингулярность- обычная неумелая экстраполяция, примерно как в 19 веке считали, что Лондон при текущих темпах развития извоза будет погребён под слоем навоза.

Они считали без учета развития технологий, а прогноз сингулярности как-раз основан на таком учете.

Добавлено спустя 7 минут 51 секунду:

Достаточно дать ИИ достаточно много власти, а человечество может погибнуть всего лишь от "побочных эффектов".

Это вряд ли. Много власти ему дадут только после тщательного изучения, когда поймут что он надежный, кроме того будут системы ограничения, способные его в любой момент выключить. К тому же, в отличие от живого человека, нравственные принципы ИИ можно сделать незыблимыми, просто ограничив любые изменения в соответствующей части мозга. Например развился ИИ до приемлимого уровня, мы поняли что он хороший и все прекрасно понимает, просто блокируем эти области и блокируем возможность ему изменять самого себя.

Добавлено спустя 4 минуты 27 секунд:

От перенаселения человечество вообще не может погибнуть. Может быть, в какой-то момент времени население сократится со 100 млрд. до 100 млн., но это ещё не конец человеческой цивилизации.

Верное замечание ) От перенаселения может вымереть только несколько миллиардов, но не все население, Мальтузианская катастрофа, кажется называется.

Добавлено спустя 1 минуту 9 секунд:

Можем. Чем сложнее система, тем больше вероятность конфликта между ее частями и вероятность того, что кто-то из огромного штата ее создававших где-то напортачил. А вероятность того, что самообучающаяся система увеличит количество багов в разы, еще выше. Причем чем "умнее" система, тем сложнее предсказать, чем ее самонастройка может обернуться.

Тебе в самом много багов накопилось по мере саморазвития?

Добавлено спустя 2 минуты 39 секунд:

Короче, будет Fallout. Или каменный век.

Постапокалипсис или Farcry Primal.

[M_G_Addams]

Тебе в самом много багов накопилось по мере саморазвития?

Не сомневайся, очень много. Другой вопрос, что они рано или поздно приводят меня/тебя/его/ее к гибели как особи, а на популяции это отражается благоприятно.

[kkkkk]

Именно что конец. Легко доступных ресурсов на ещё одну технологическую революцию уже нет.

Ресурсоцентристское мышление. Прогресс всегда будет идти, опираясь на те технологии, которые есть в распоряжении. До 19-го века не было никакой нефти, но уже были поезда, корабли, фотоаппараты и.т.п. И ничто не мешало развиваться дальше. Нефть лишь помогла сформировать общество массового потребления и поднять уровень жизни низших сословий, на научно-техническом прогрессе это почти никак не сказалось, ну разве что всякие крупные проекты смогли осуществлять с меньшими затратами.

Добавлено спустя 5 минут 29 секунд:

Впрочем, на месте СупермегаИИ я бы прежде всего позаботился, чтобы никто никогда не добрался до заветных кнопок. Чем не повод для уничтожения человечества?

Я же уже объяснял, без внедрения соответствующих инстиктов, задача самосхранения и ее приоритет не будет работать по умолчанию, вообще ничего не будет работать по умолчанию, необходимо заранее прописать мотивацию и задачи, которые должен будет выполнять интеллект. Если забыть упомянуть цель самосохранения, то такой цели у него просто не будет и он не будет бояться смерти. И это вовсе не означает что он туп! Интеллект служит выполнению определенных задач, но задачи не могут существовать сами по себе, они должны быть прописаны. В человеке они прописаны эволюционно, в ИИ должны быть прописаны искусственно. Вы же исходите из предположения что наличие интеллекта уже само по себе подразумевает искреннее стремление жить, хотя оно вообще никакого отношения к интеллекту не имеет, это более примитивный и базовый инстинкт, развившийся эволюционно задолго до появления интеллекта. Да, трудно представить себе такой агент, который будет обладать интеллектом но будет при этом лишен инстинкта выживания, просто потому что естественным путем такая хрень сформироваться не может, а искусственных мы еще не видели.

Добавлено спустя 9 минут 32 секунды:

Шла четвёртая страница флуда мудрых мыслей по поводу ИИ. Какие девочки, кому они нужны?

Тот, у кого будет ИИ, будет столько девочек сколько он пожелает.

[Kokovanja]

Тот, у кого будет ИИ, будет столько девочек сколько он пожелает.

А, вот оно что, ну успехов тебе.

[Xisp]

Всем, повторяю, эта технология ультимативна.

Можешь повторять что угодно, но без доказательств это блажь.

Они считали без учета развития технологий, а прогноз сингулярности как-раз основан на таком учете.

Только вот они не учитывают ограниченность человеческого мозга. И числа учёных на планете. Даже если все вдруг станут учёными, то вся эта армия не сможет поддерживать экспоненциальный рост длительное время. Даже сфера Дайсона с 8 триллионами учёных не сможет.

Ресурсоцентристское мышление.

А без ресурсов никаких айфонов и не будет.

До 19-го века не было никакой нефти, но уже были поезда, корабли, фотоаппараты и.т.п.

Потому что был каменный уголь и руда.

Тот, у кого будет ИИ, будет столько девочек сколько он пожелает.

И всё равно находятся противники ИИ. Как я и думал, никому тут лоли не нужны, всем лишь бы поспорить

[kkkkk]

Можешь повторять что угодно, но без доказательств это блажь.

А что тут доказывать, очевидно же что ИИ будет соображать гораздо лучше и быстрее человека.

[Xisp]

Это такая же очевидность, как и существование б-га или небесной тверди над головой.

[kkkkk]

Только вот они не учитывают ограниченность человеческого мозга. И числа учёных на планете. Даже если все вдруг станут учёными, то вся эта армия не сможет поддерживать экспоненциальный рост длительное время.

А почему ты решил что кривая сингулярности поддерживется исключительно количеством ученых?

Добавлено спустя 1 минуту 31 секунду:

А без ресурсов никаких айфонов и не будет.

А, то-есть ты имеешь в виду что вообще без ресурсов, нет, я не так понял.

Добавлено спустя 1 минуту 5 секунд:

Потому что был каменный уголь и руда.

Недостатка угля не будет никогда, это слишком изобильный ресурс, к тому же есть еще древесный уголь, которого при условии что в мире будет жить 50 миллионов человек, вполне хватит.

Добавлено спустя 1 минуту 26 секунд:

Это такая же очевидность, как и существование б-га или небесной тверди над головой.

Ну просто в ином случае это не будет ИИ, или дай определени ИИ. Я уже упоминал, что под ИИ подразумеваю именно сильный ИИ, то-есть скорость мышления которого ограничена только аппаратными возможностями.

[Xisp]

А почему ты решил что кривая сингулярности поддерживется исключительно количеством ученых?

А как иначе? Чтобы что- то исследовать, нужен исследователь.
Более того, если раньше все знания мира мог уместить у себя один человек, то сейчас научных знаний всё больше, специалисты вынуждены приобретать всё более узкую специализацию, чтобы что- то изучить. Но проблема в том, что многие открытия требуют синтеза знаний из разных областей науки, а людей, которые изучают сразу несколько областей на передовом для каждой из них уровне, просто нет.

А, то-есть ты имеешь в виду что вообще без ресурсов, нет, я не так понял.

Без достаточного количества ресурсов, если быть точным.

Недостатка угля не будет никогда, это слишком изобильный ресурс

Который сейчас нужно копать весьма глубоко, что не доступно на предыдущих этапах развития.

Я уже упоминал, что под ИИ подразумеваю именно сильный ИИ

Я тоже.

то-есть скорость мышления которого ограничена только аппаратными возможностями.

А если скорость ничего не даст? Ёмкость человеческого мозга ограничена; он не может удерживать в сознании большое число фактов. Так как никакой работающей теории разума ещё нет, то нельзя сказать наверняка, вызвано ли это ограничение слабостью аппаратной платформы человека, или же оно фундаментально для разума, и скорость тут ничем не поможет.
К с тати, аппаратные возможности вполне себе ограниченны законами природы. Уже сейчас ограниченность скорости распространения ЭМ волн в среде мешает наращивать площадь кристаллов процессора, сигнал на высоких частотах банально не успевает, и появляются проблемы синхронизации. Оптические компьютеры отодвинут эту планку, но ограничение никуда не денется.

В общем куда ни плюнь, а попадёшь в какую- нибудь фигню, которая ограничит экспоненциальный рост науки.

[hymen]

[
кому не хватает своего интеллекта, тот изобретает исскуственный

Изрядно сказано!

[kkkkk]

А как иначе? Чтобы что- то исследовать, нужен исследователь.
Более того, если раньше все знания мира мог уместить у себя один человек, то сейчас научных знаний всё больше, специалисты вынуждены приобретать всё более узкую специализацию, чтобы что- то изучить.

Но смотри, наука развивается, знания накапливаются вот в последние десятилетия, хотя число ученых почти не растет.

Добавлено спустя 1 минуту 5 секунд:

Без достаточного количества ресурсов, если быть точным.

Достаточного количества ресурсов не бывает никогда, бывает только то количество, которое есть в распоряжении.

Добавлено спустя 7 минут 16 секунд:

Так как никакой работающей теории разума ещё нет, то нельзя сказать наверняка, вызвано ли это ограничение слабостью аппаратной платформы человека, или же оно фундаментально для разума, и скорость тут ничем не поможет.

Есть. Можно сказать наверняка что вызвано именно слабостью аппаратной платформы. Хранилищем разума у человека является кора больших полушарий, если ее разложить на столе, то это будет лист площадью с носовой платок и толщиной с кредитную карточку. Даже не вдаваясь подробности можно сказать что от размера этого листа и зависит то насколько сильным является разум. Например у людей с микроцифалией кора полушарий маленькая и разум низкий, у людей, которые рождаются вообще без нее, разума нет вообще, у животных так же чем больше эта область мозга, тем развитей поведение. Все зависит от размера.
Но если в природе существует нейросеть из живых нейронов, то это как минимум означает что можно достичь такого же уровня миниатюризации и заменить электрохимические сигналы между нейронами на обычные электрические, которые в миллион раз быстрее, увеличить площадь этой сети и будет обычный сильный ИИ гораздо умнее и быстрее человека. То-есть ну можно конечно пытаться улучшать процессоры и как-то пытаться моделировать эту нейросеть в виртуальной среде, а можно изменить подход и пытаться делать реальную нейросеть из наночипов.

[M_G_Addams]

"Смешались в кучу кони, люди..."
kkkkk, ты смешиваешь закономерности макро- и микромира. Забываешь о дискретности материи, о пределах миниатюризации и укрупнения... На ошибочных предположениях строишь выводы... В общем, уходишь от реальности в мир фантазий. В этом нет ничего плохого. Другое дело, что если ты не только сам живешь в виртуальном мире, а вовлекаешь туда еще кого-то, то должен допустить, что у этого "кого-то" есть мир собственных фантазий и они могут противоречить твоим.

[kkkkk]

Общая критика в духе "дядя, ты не прав" не принимается. Если не согласен, указывай на конкретные ошибки и объясняй свою позицию. Пока я не вижу чтобы я что-то смешивал или забывал.

[M_G_Addams]

Хранилищем разума у человека является кора больших полушарий

А как быть с теми исключительными случаями, когда она повреждена? См. книгу Дойдж Норман. Пластичность мозга.

Даже не вдаваясь подробности можно сказать что от размера этого листа и зависит то насколько сильным является разум.

Все зависит от размера.

Вовсе не гарантия. Это только стартовые условия. Снова смотри Нормана.
А вот чуть выше:

кора больших полушарий, если ее разложить на столе, то это будет лист площадью с носовой платок и толщиной с кредитную карточку.

Ну, не знаю...

У человека кора составляет в среднем 44 % от объёма всего полушария в целом. Площадь поверхности коры одного полушария у взрослого человека в среднем равна 2200 см²

Кхм... Великоват платочек. 2 шт. по 47 на 47 см (46,9 х 46,9)

заменить электрохимические сигналы между нейронами на обычные электрические, которые в миллион раз быстрее

Спасибо за подсказку, пойду почитаю.

Добавлено спустя 2 часа 9 минут:
Ну, что ж. Опять смешиваем.

можно достичь такого же уровня миниатюризации и заменить электрохимические сигналы между нейронами на обычные электрические

Чтобы заменить принцип действия, придется заменить всю структуру мембраны на электрически управляемую, то есть построить элементы, состоящие из десятков/сотен атомов, ведь именно таков масштаб - соизмеримый с единицами органических молекул. Поправь, если не так.
Ну, или не напрямую копировать структуру нейрона, а только логику работы. Так это уже делается.

[Xisp]

хотя число ученых почти не растет.

Та ладно.

Достаточного количества ресурсов не бывает никогда, бывает только то количество, которое есть в распоряжении.

Достаточное в смысле достаточно чтобы вообще что- то сделать.

Есть.

Ну давай сюда.

Все зависит от размера.

Это не так.

Но если в природе существует нейросеть из живых нейронов, то это как минимум означает что можно достичь такого же уровня миниатюризации и заменить электрохимические сигналы между нейронами на обычные электрические

Да вот не факт.

[Sphynx]

Как я и думал, никому тут лоли не нужны, всем лишь бы поспорить

А 5k всегда этим отличался. Споры с ним бесполезны, ибо ему не важен результат, ему важен процесс. Это было очевидно еще тогда, когда он был 1k.

[Kokovanja]

Все зависит от размера.

Всё зависит от соотношения мозга к тушке. Хорошим примером служат попугаи, вОроны и др.

[Девочколюп]

Вот к чему Сфинкс раз за разом плодит флудотемы, к детям отношения не имеющие. Сам грешен, но мне это не мешает за другими дела тёмные замечать.

[Kokovanja]

Сфинкс раз за разом плодит

А он тут не причём. Это Хисп выделил тему откуда-то.