Искусственный интеллект

[Kokovanja]

Закрыть наглухо границы, и всё.

Взять всё, да и поделить. К людям нужно относиться мяхше, а на вопросы смотреть ширше. Надо постараться по мере возможностей помочь всяким Конго, Зимбабвэ и Россиям, наставить их на путь исстинный, что бы они росли над собой и не плодили нищету. )

[Xisp]

Почему нас должны волновать проблемы всяких Конго?

Потому что они полезут к нам.

в нормальных странах - демографический спад.

И для избежания этого они разрежают иммиграцию из этих самых неблагополучных стран.

Типа

Нет, не типа.
Типа повторить конструкцию, но при этом не знать, как и для чего нужен каждый нейрон.

[Sphynx]

Потому что они полезут к нам.

Укреплять границы, свои и их. Ты много эмигрантов из Конго видел?

И для избежания этого они разрежают иммиграцию из этих самых неблагополучных стран.

Это путь в никуда. Надо просто повышать механизацию и роботизацию труда, увеличивать пенсионный возраст. Иммиграция - это тупик.

Типа повторить конструкцию, но при этом не знать, как и для чего нужен каждый нейрон.

И это будет "типа мозг", который функционирует совсем не так, как человеческий.
Представь себе: инопланетяне принимают по радио послание с Земли с 3D-схемой автомобиля. Распечатали они его на 3D-принтере, а аппарат не функционирует. Хотя схема совершенно правильная! Просто им забыли передать "мелочи" - что в соответствующие емкости надо залить бензин, масло, электролит, воду и т.п.
Впрочем, это даже слишком оптимистическая аналогия. Скорее им передали фотографию автомобиля, а они пытаются его воссоздать на этом основании. "Просто повторить конструкцию".

Попытки воссоздать человеческий мозг на нынешнем этапе похожи на попытки средневековых алхимиков получить гомункулов.

Один из наиболее известных «рецептов» получения гомункула предложен в XVI веке Парацельсом. Алхимик считал, что заключённая в особом сосуде человеческая сперма при нагревании и некоторых других манипуляциях (закапывании в конский навоз, «магнетизации», суть которой окончательно не ясна) становится гомункулом. «Вскармливался» гомункул путём добавления в колбу небольшого количества человеческой крови.

Мозг - на порядки более сложная система, чем это кажется. О чем говорить, если нынешние исследования мозга проводятся на уровне "каменных топоров", а в мозгу, оказывается, происходят процессы на уровне квантовой механики? Причем это свежайшие исследования:

Скрытый текст

Обзор и пересмотр скандальной 20-летней теории сознания, опубликованной в Physics of Life Reviews, утверждает, что сознание является производным более глубокого уровня, более точной деятельности, происходящей внутри тонких нейронов головного мозга. В соответствии с обзором авторов Стюарта Хэмерофф (Stuart Hameroff) и Роджера Пенроуз (Roger Penrose), недавнее открытие квантовых колебаний в «микротрубочках», которые находятся внутри нейронов головного мозга, полностью подтверждает эту теорию. Они предполагают, что ритмы ЭЭГ (мозговые волны) являются производными от более глубоких колебаний микротрубочек, и с практической точки зрения, лечение вибрации микротрубочек может принести пользу при психических, неврологических и когнитивных расстройствах.

Теория, известная как «orchestrated objective reduction» (Orch OR), впервые была выдвинута в середине 1990-х годов выдающимся математиком и физиком Роджером Пенроуз, который возглавляет кафедру математики в Оксфордском университете (англ. University of Oxford) и известным анестезиологом Стюартом Хэмерофф, доктором медицинских наук в Psychology and Center for Consciousness Studies при Аризонском университете (англ. University of Arizona). Они предположили, что квантовые колебательные вычисления в микротрубочках были «организованы» (Orch) синаптическими входами и памятью, хранящимися в микротрубочках, и завершаются «объективным сокращением» (OR), следовательно, «Orch OR». Микротрубочки — основные компоненты клеточной структуры.

С момента своего создания теория Orch OR была подвергнута резкой критике, поскольку мозг считали слишком «теплым, влажным и шумным» для таких тонких квантовых процессов. Однако недавние результаты показали теплую квантовую последовательность в фотосинтезе растений, пространственной ориентации головного мозга птиц, нашем обонянии и микротрубочках мозга. Недавнее открытие квантовых колебаний в микротрубочках внутри нейронов головного мозга, совершенное группой исследователей во главе с Anirban Bandyopadhyay, доктор философии в Национальном институте материаловедения (англ. National Institute of Material Sciences) в Цукубе, Япония и Массачусетском технологическом институте (англ. Massachusetts Institute of Technology, MIT), подтверждает теорию о том, что ритмы ЭЭГ также вытекают из более глубоких колебаний микротрубочек. Кроме того, в исследовании проведенном в лаборатории Родерик Г. Екенхофф, доктора медицины в Пенсильванском университете (англ. University of Pennsylvania), ученые предположили, что анестезия, которая селективно удаляет сознание, также действует через микротрубочки в нейронах головного мозга.

Происхождение сознания отражает наше место во Вселенной, природе нашего существования. Развивается ли сознание от сложных вычислений между нейронами головного мозга, как утверждают большинство ученых? На этот и другие вопросы в своем обзоре ответили ученые Хэмерофф и Пенроуз.

«Это исследование открывает ящик Пандоры, но наша теория учитывает оба этих мнения, предполагая, что сознание происходит от квантовых колебаний в микротрубочках, белковых полимеров внутри нейронов головного мозга, которые управляют нейронами, синапсами и соединяют процессы головного мозга в самоорганизующиеся процессы в наномасштабе», — заявили ученые.

«После 20 лет скептической критики доказательства теперь ясно поддерживают теорию Orch OR», — продолжили Хэмерофф и Пенроуз. «Наша работа снабжает новыми доказательствами, вносит ясность в Orch OR квантовые биты, или кубиты, как спиральные пути в микротрубочках, опровергая заявления критиков и рассматривая 20 предсказаний касаемо Orch OR, опубликованных в 1998 году — из них шесть подтвердились и никто их не опроверг».

В теории добавили новый и важный аспект. Квантовые колебания микротрубочек препятствуют и производят более медленную «частоту биения» ЭЭГ. «Несмотря на долгое клиническое применение, основные истоки ритмов ЭЭГ оставались загадкой. Клинические испытания стимуляции головного мозга, направленные на механические колебания микротрубочек с помощью транскраниальной доплерографии, показали улучшения в настроении и в будущем могут оказаться полезными в борьбе против болезни Альцгеймера и черепно-мозговых травмах.

Ведущий автор Стюарт Хэмерофф заключает: «Orch OR является наиболее строгой, всеобъемлющей и успешно проверенной теорией сознания из когда-либо выдвинутых. С практической точки зрения, леча вибрацию микротрубочек, в будущем можно будет побороть множество психических, неврологических и когнитивных нарушений».
https://newsland.com/user/4297746542/content/uche ... chenii-golovnogo-mozga/4562148

Короче, в области головного мозга, как и во многом что касается биологии, "мы знаем лишь то, что ничего не знаем".

[M_G_Addams]

Понимаем ли мы, что автор статьи НЕ ПОНИМАЕТ, о чем говорят ученые? Проследите цепочку передачи информации: научная теория - ее изложение автором(-ами) теории, доступное пониманию среднего человека - образ теории в понимании автора статьи - изложение теории автором статьи. На каждом этапе неизбежно искажение и потеря информации. Добавьте еще потерю на этапе "прочтение - понимание читателем", но это уже для полноты картины.
Помогите разобрать, о чем говорится в следующей цитате, взятой из под спойлера:

Они предположили, что квантовые колебательные вычисления в микротрубочках были «организованы» (Orch) синаптическими входами и памятью, хранящимися в микротрубочках, и завершаются «объективным сокращением» (OR), следовательно, «Orch OR».

Я выделяю

квантовые колебательные вычисления в микротрубочках были «организованы» (Orch) синаптическими входами и памятью, хранящимися в микротрубочках, и завершаются «объективным сокращением»

Затем

вычисления <там-то> ... организованы ... входами и памятью, хранящимися <там же>, и завершаются ...

Что где хранится и кто организовал вычисления? Входы и память?

[Sphynx]

Ты специалист по нейробиологии или по квантовой механике?
Всё хранится в микротрубочках. Синаптические входы и память контролируют вычисления.
Почитай здесь, может, понятней будет:
http://www.bbc.com/earth/story/20170215-the-stran ... human-mind-and-quantum-physics

[Xisp]

Надо просто повышать механизацию и роботизацию труда, увеличивать пенсионный возраст.

Запросы растут быстрее механизации. Мы работаем по 8 часов, как 100 лет назад.

И это будет "типа мозг", который функционирует совсем не так, как человеческий.

У разных людей функционирование мозга тоже отличается в деталях.

Представь себе

Любая аналогия- ложь.

Причем это свежайшие исследования:

Посмотрим во что это выльется через 20 лет.

[M_G_Addams]

Синапс - "интерфейс" нейрона. Это структура части нервной клетки. Снаружи обращена к другим клеткам.

... в «микротрубочках», которые находятся внутри нейронов ...

Весь синапс не может находиться внутри того, что само находится внутри первого. Остается узнать, что подразумевается под т.н. "синаптическим входом" ...
Н-да... В статье http://www.bbc.com/earth/story/20170215-the-stran ... human-mind-and-quantum-physics сказано все же немного по-другому. И таки да, не показаны детали.
Я собирался еще спросить, как химические процессы порождают электромагнитные колебания, фиксируемые на ЭЭГ. (Или всё происходит наоборот? Электромагнитные колебания в микротрубочках влияют на химпроцессы?) Но, пожалуй, не спрошу.
Из всего (недо-)сказанного в статьях следует, что эмуляция нейрона возможна только с привлечением немалого количества технических средств. А эмуляция мозга... Ну, умножте на количество нейронов.

Того, что сейчас называют ИИ, бояться не имеет смысла. Опасаться приходится "держателей" аппаратуры, на которой функционирует ИИ, а больше - тех, кто принимает решения "по указке" ИИ. То есть снова самая главная опасность исходит от людей.
А сбои в работе ИИ будут обязательно. Абсолютно надежных систем нет по определению. Соответственно, надо принимать меры по обеспечению надежности: организационные, технические, технологические, алгоритмические, etc.

[Sphynx]

Запросы растут быстрее механизации.

Вовсе нет. Механизация опережает запросы. Множество людей за послеждние 50 лет перешли в сферу услуг. Производительность труда растет как на дрожжах. Это я про Запад говорю.

Мы работаем по 8 часов, как 100 лет назад.

Кто ж вам доктор? Во Франции рабочая неделя - 35 часов, в США в среднем - 35. И вообще, вот, почитай исследование:

Скрытый текст

Хорошо работает тот, кто хорошо отдыхает. Это подтверждает свежее иссследование, которое провел Expert Market. Аналитики проанализировали данные по ВВП Организации по экономическому сотрудничеству и развитию (OECD) и пришли к выводу, что семь стран входят как в десятку стран с самой высокой производительностью труда, так и с наиболее короткой рабочей неделей.
Так выглядит десятка стран с наивысшей производительностью труда, полученной в результате деления ВВП на количество рабочих часов в год:
1. Люксембург – 1643 рабочих часа в год, производительность - 59 долларов/час
2. Норвегия – 1427, 47
3. Австралия – 1664; 38,5
4. Швейцария – 1568; 36,6
5. Нидерланды – 1425; 36,6
6. Германия – 1371; 33,5
7. Дания – 1436; 31,1
8. США – 1789; 30,5
9. Ирландия – 1821; 29,8
10. Швеция – 1609; 29,1.

Россия в списке Expert Market занимает пятую строку с конца, или 32-е общее место. Продолжительность рабочего года у нас составляет 1985 часов, а производительность труда – 12,5 долларов/час. В прошлом году, к примеру, исследование YouGov также показало, что наиболее эффективен для производительности труда семичасовой рабочий день.
https://www.samara.kp.ru/daily/26568.5/3584292/

В Германии в среднем всего 1371 рабочих часов в год, в России - 1985. А кто работает производительнее и живет богаче? Почему у них механизация опережает запросы, а у нас - не опережает?

У разных людей функционирование мозга тоже отличается в деталях.

Отличие на 5% и отличие на 95% - совсем разные отличия. Скажем, свежайшие исследования показывают, что за совесть отвечает отдельная часть мозга. А ты хочешь "приблизительно действующий мозг", где не будет ни грамма совести.

Посмотрим во что это выльется через 20 лет.

Могу наванговать. Через 20 лет будет очередное эпохальное открытие в области нейробиологии, где окажется, что мозг функционирует еще сложней.

[Sphynx]

Из всего (недо-)сказанного в статьях следует, что эмуляция нейрона возможна только с привлечением немалого количества технических средств. А эмуляция мозга... Ну, умножте на количество нейронов.

Совершенно верно.

То есть снова самая главная опасность исходит от людей.
А сбои в работе ИИ будут обязательно. Абсолютно надежных систем нет по определению.

А вот здесь совершенно не верно.
Поскольку ИИ обычно задумывается как самообучающаяся система, никто не может предсказать, к каким выводам она самообучится. То есть если в случае с программными ошибками мы можем предвидеть некоторый сбой из-за некачественного программирования, то здесь из-за некачественного программирования система будет способна делать "подводные камни" самостоятельно. Причем к сбоям могут привести не только бракованные участки кода, но и неверные внешние данные, так как ИИ на их основании сможет сам себя перепрограммировать.
Вот ты изучал, насколько я понял, какую-то конфликтологию. Так вот человек - как раз такой вот ИИ, склонный на основе ложных фактов "перепрограммировать" себя чуть ли не полностью. А теперь представь себе, что такими склочными и конфликтными станут компьютеры. Да, пускай ИИ пока что "чуть сложнее калькулятора". Но чем сложнее и более похожими на человека они будут становиться, тем серьезнее и катастрофичнее будут сбои. Представь себе ИИ Paint, который за несколько лет саморазвитися переделал себя в ИИ Photoshop. Кто сможет выловить в нем баги, если он наделал их сам и не намерен останавливаться?

[заморЫш]

Проследите цепочку передачи информации: научная теория - ее изложение автором(-ами) теории, доступное пониманию среднего человека - образ теории в понимании автора статьи - изложение теории автором статьи. На каждом этапе неизбежно искажение и потеря информации. Добавьте еще потерю на этапе "прочтение - понимание читателем", но это уже для полноты картины.

Плюс ошибки в процессе перевода.

человечество погибнет от перенаселения и нехватки ресурсов.

Не раньше, чем Солнце погаснет.

[M_G_Addams]

Sphynx, я изучал кроме информационных систем и совсем чуть-чуть психологии еще и системы вообще, как объект управления, как совокупность взаимодействующих подсистем. Ну, интересовался еще разным...

Абсолютно надежных систем нет по определению. Соответственно, надо принимать меры по обеспечению надежности: организационные, технические, технологические, алгоритмические, etc.

Etc., Sphynx, понимаешь?

[Xisp]

Множество людей за послеждние 50 лет перешли в сферу услуг.

И я про что, когда писал про запросы.

Во Франции рабочая неделя - 35 часов, в США в среднем - 35.

ЛПП, не учитывают переработки. В США вообще нет ограничений на рабочую неделю, и нет обязательных отпусков.

То есть если в случае с программными ошибками мы можем предвидеть некоторый сбой из-за некачественного программирования

Не можем.

Не раньше, чем Солнце погаснет.

Значительно раньше.

[заморЫш]

От перенаселения человечество вообще не может погибнуть. Может быть, в какой-то момент времени население сократится со 100 млрд. до 100 млн., но это ещё не конец человеческой цивилизации.

Добавлено спустя 1 минуту 42 секунды:
Только не пиши про опыт с крысами, которым надоело жить в клетке и они перестали размножаться и вымерли

[Sphynx]

Не можем.

Можем. Чем сложнее система, тем больше вероятность конфликта между ее частями и вероятность того, что кто-то из огромного штата ее создававших где-то напортачил. А вероятность того, что самообучающаяся система увеличит количество багов в разы, еще выше. Причем чем "умнее" система, тем сложнее предсказать, чем ее самонастройка может обернуться.

Добавлено спустя 14 минут 21 секунду:

ЛПП, не учитывают переработки.

Скрытый текст

Европейский парламент установил максимальное рабочее время в 48 часов в неделю. Здесь учитываются и все сверхурочные часы. Однако некоторые страны ввели и свои ограничения. Например, Финляндия считает, что ее жителям нужно работать не меньше 32 часов, но не больше 40 часов. Чаще всего европейцы работают по 35 часов в неделю.
В Нидерландах самая короткая среднестатистическая продолжительность рабочей недели — 27 часов. Голландские предприятия все чаще переходят на четырехдневку, а средний рабочий день жителя этой страны длится 7 часов 30 минут.
По 35 часов длится рабочая неделя в Ирландии и Франции. Показатель — один из самых низких в мире, но при этом производительность труда в Ирландии достаточно высокая. Во Франции пятница официально является рабочим днем, но многие компании делают ее сокращенной, так что после обеда застать кого-то на своем рабочем месте бывает сложно. В 90-х годах прошлого века введение во Франции 35-часовой недели вызвало бурю негодований. Недавно правительство вернулось к вопросу увеличения количества рабочих часов, после чего последовал ряд забастовок и манифестаций.
http://www.mv.org.ua/news/131274-skolko_rabotayut_v_raznyh_stranah_-_infografika.html

Добавлено спустя 10 минут 53 секунды:

И я про что, когда писал про запросы.

Роботехника и оттуда скоро вытеснит людей. Допустим, торговыми автоматами уже давно никого не удивишь; ж/д и банковские кассиры все больше заменяются онлайн-операциями да терминалами; все больше растет рынок роботов-уборщиков, и т.п.

[M_G_Addams]

сократится со 100 млрд. до 100 млн., но это ещё не конец человеческой цивилизации

Если население сократится скачкообразно - менее, чем за единицы лет (по какой причине - другой вопрос), то для цивилизации в том виде, в каком она пребывает на момент "усечения" - непременный конец. Популяция вполне может выжить, а вот жизнь отдельных особей изменится кардинально хотя бы на некоторый период, следующий за скачкообразным изменением численности.
Однако, давай, "за лесом увидим деревья": как будут чувствовать себя люди, оставшиеся на некоторой территории/планете в пропорции "один из тысячи"?
Если же изменение численности произойдет за время, соизмеримое с длительностью жизни отдельной особи, то... Впрочем, для цивилизации это тоже слишком маленький срок. Индивидуумы перенесут изменения значительно легче, а вот какие-то глобальные процессы прекратятся, какие-то возникнут.

Чем сложнее система, тем больше вероятность конфликта между ее частями...
Причем чем "умнее" система, тем сложнее предсказать, чем ее самонастройка может обернуться.

Давай, разделим открытые и закрытые системы, а? Они хоть и одинаково работают внутри (самообучение, самоподдержание, если эти функции в них заложены), но совершенно разные в проявлениях вовне.
СупермегаИИ должен иметь кнопку "Выкл./Off". Он - открытая система и не имеет права на самостоятельное поведение. (А разумная надсистема должна предусмотреть кроме "Выкл." еще и достаточное количество регуляторов.)
Хочу предостеречь и оптимистов, и пессимистов из любой сферы: самый опасный элемент системы - конкретный исполнитель и это всегда человек. (Выберите только правильно масштаб системы.)

[Sphynx]

то для цивилизации в том виде, в каком она пребывает на момент "усечения" - непременный конец. Популяция вполне может выжить, а вот жизнь отдельных особей изменится кардинально хотя бы на некоторый период, следующий за скачкообразным изменением численности

Короче, будет Fallout. Или каменный век. Впрочем, нет, я более оптимистичен в этом плане. Пока сохраняются знания, в техническом отношении человечество далеко не скатится, даже после ядерной войны или падения метеорита. По моим прикидкам, где-то до допромышленного уровня, 17-18 век. А возврат к современным технологиям произойдет быстрее. Это если количество выживших будет достаточно, чтобы заселять города, и у таковых хватит ума не распыляться на феодальные войны.

СупермегаИИ должен иметь кнопку "Выкл./Off".

И Off, и Reset. (С другой стороны - зачем нужны саморазвивающиеся системы, если их в определенный момент надо будет сбрасывать на дефолтный уровень?) Впрочем, на месте СупермегаИИ я бы прежде всего позаботился, чтобы никто никогда не добрался до заветных кнопок. Чем не повод для уничтожения человечества?

[M_G_Addams]

Проектировщик и, главное, исполнитель должны создать и реализовать систему таким образом, чтобы органы управления ею находились вне зоны действия системы. Это достигается, например, разделением в пространстве (не может дотянуться) или "среде обитания" (система программная, а выключатель механический). "Хороших" проектировщиков этому специально обучают, а "плохой" не сможет обеспечить живучесть своего проекта в надсистеме.
Самоорганизация без дополнительного "озарения свыше", то есть без управляющего воздействия от надсистемы, не переведет на более высокий уровень развития, в частности, не даст доступа (или не ограничит доступ) к Выкл-у.

я бы ... позаботился

Ну, дык... Ты ж и посложнее какого бы там ни было ИИ. Причем не в разы, а на порядки. То есть человека и ИИ разделяют и будут разделять, по меньшей мере в ближайшее время, не "горизонтальные" различия (сила, емкость памяти, etc.), а "вертикальные" (количество систем, вложенных одна в другую - "матрёшек"; количество и глубина обратных связей между соседними и несоседними матрёшками).

если ... хватит ума не распыляться на феодальные войны

А вот на это расчитывать не стОит.

[Xisp]

Может быть, в какой-то момент времени население сократится со 100 млрд. до 100 млн., но это ещё не конец человеческой цивилизации.

Именно что конец. Легко доступных ресурсов на ещё одну технологическую революцию уже нет.

Чем сложнее система, тем больше вероятность конфликта между ее частями и вероятность того, что кто-то из огромного штата ее создававших где-то напортачил.

Поэтому самая опасна система- люди

Скрытый текст

На США посмотри.

Роботехника и оттуда скоро вытеснит людей.

К тому времени запросы возрастут ещё сильнее, и всем захочется иметь личного зубочистильщика, и все будут работать по 8 часов, как и раньше.

А возврат к современным технологиям произойдет быстрее.

См. после первой цитаты.

Впрочем, на месте СупермегаИИ

Вот опять антропоморфируешь.

[Sphynx]

На США посмотри.

Посмотрел. Американцы говорят, что за сверхурочные принято платить так овердофига, что работодатели обычно этим не сильно балуются. И сами американцы обычно не горят желанием перерабатывать. Разве что бедные эмигранты в первые годы жизни.

К тому времени запросы возрастут ещё сильнее, и всем захочется иметь личного зубочистильщика

В Штатах большинство зубных щеток и так с электроприводом. Да и откладывают они свободных денег очень много.

и все будут работать по 8 часов, как и раньше.

В России - да. Потому что народ рабы, а власть - ворюги. Народ продолжит работать по 8 часов и жить при этом хуже, а хозяева продолжат скупать дворцы и виллы на французском и итальянском побережье либо арендовать таковые за 80 000 евро в сутки.

Вот опять антропоморфируешь.

Вовсе нет. Скорее курицезирую, или муравьезирую, или собакизирую. Каждый "природный интеллект" первым делом начинает заботиться о выживании (себя или своей колонии, стаи, стада). Кто плохо заботится, тот не выживает. Если ИИ будет хоть что-то соображать, то это должно до него дойти довольно быстро. Если же мы говорим исключительно о тупых ИИ, то кому такие ИИ вообще нужны?

[Xisp]

В Штатах большинство зубных щеток и так с электроприводом.

А захочется ручной работы.