Искусственный интеллект

Преимущества и проблемы

Список разделов

Описание: Для оффтопика и прочих тем, не подпадающих ни под один из существующих разделов
Счётчик сообщений отключён

Сообщение #1 Sphynx » 01.08.2017, 09:27

Боты изобрели свой язык: почему Facebook испугался искусственного интеллекта?

Руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.
Система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой. Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип "поощрения", то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.
Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.
Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
Несколько дней назад об искусственном интеллекте поспорили глава Facebook Марк Цукерберг и основатель SpaceX, Tesla и PayPal Илон Маск.
Маск призвал власти США усилить регулирование систем искусственного интеллекта, предупредив, что ИИ представляет угрозу для человечества. О потенциальной угрозе со стороны искусственного интеллекта ранее говорил и британский ученый Стивен Хокинг.
Выступая на саммите Национальной ассоциации губернаторов Соединенных Штатов, Маск назвал искусственный интеллект "наибольшей угрозой, с которой сталкивается цивилизация". По его словам, если вовремя не вмешаться в процесс развития этих систем, то будет слишком поздно.
"Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]", - сказал он.
Правообладатель иллюстрации AFP Image caption Илон Маск считает искусственный интеллект главной угрозой для цивилизации
Заявления Маска вызвали раздражение у основателя Facebook Марка Цукерберга, который назвал их "довольно безответственными". "В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше", - парировал Цукерберг.

http://www.bbc.com/russian/features-40778454
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #2 Yuuichi » 01.08.2017, 22:52

"Люди должны отказаться от своего устаревшего протокола!" ^_^ Тачикомы.
Просто нужно прописать первый закон роботехники в основе.
Yuuichi
Сообщения: 497
Зарегистрирован: 22.01.2013

Сообщение #3 Sphynx » 01.08.2017, 23:59

Yuuichi писал(а) 01.08.2017, 22:52:Просто нужно прописать первый закон роботехники в основе.

Так его надо сначала сформулировать. :lol: Потому что Азимов - это беллетристика. По-настоящему продвинутый ИИ вскоре зайдет в тупик, когда поймет, что любое действие ИИ теоретически может нанести вред человеку. :) Допустим, транспортная система, управляемая ИИ, с легкостью доставит как школьника в школу, так и самоубийцу к месту прыжка с моста, или рабочих на завод, где произойдет катастрофа с многочисленными жертвами. А вот если ИИ уничтожит роддом до его открытия, то спасет сотни тысяч человеческих жизней - ибо тот, кто не родился, никогда не умрет и не погибнет. :lol: Кстати, у самого Азимова все произведения на сей счет основаны на попытках ИИ втиснуть жизненные ситуации в прокрустово ложе робозаконов - как правило, для человека это заканчивалось не очень хорошо.
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #4 kkkkk » 02.08.2017, 20:46

Sphynx писал(а) 01.08.2017, 09:27:Боты изобрели свой язык: почему Facebook испугался искусственного интеллекта?
Напомнило:
Изображение

Добавлено спустя 1 минуту 3 секунды:
Sphynx писал(а) 01.08.2017, 09:27:Маск призвал власти США усилить регулирование систем искусственного интеллекта, предупредив, что ИИ представляет угрозу для человечества.
А вот это правильный шаг. Частным компаниям надо вообще ограничить разработку таких систем.
"Если передрочить, вероятно, тоже будет худо." - Девочколюп.
kkkkk
Сообщения: 559
Зарегистрирован: 20.12.2016

Сообщение #5 Xisp » 02.08.2017, 21:18

kkkkk писал(а) 02.08.2017, 20:46:А вот это правильный шаг.

Ограничения- путь вникуда.

kkkkk писал(а) 02.08.2017, 20:46:Частным компаниям надо вообще ограничить разработку таких систем.

Это невозможно.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 11329
Зарегистрирован: 20.01.2013

Сообщение #6 Yuuichi » 02.08.2017, 21:33

Скайнет cоздали военные а не мегакорпорация. ;)
Yuuichi
Сообщения: 497
Зарегистрирован: 22.01.2013

Сообщение #7 Sphynx » 02.08.2017, 21:58

Фильмы серии "Терминатор" сняли киборги, засланные Скайнет в прошлое, чтобы усыпить бдительность людей. На самом деле всё будет совсем не так. :lol:
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #8 kkkkk » 04.08.2017, 20:01

Xisp писал(а) 02.08.2017, 21:18:Ограничения- путь вникуда.

Без них никуда. Отличие ИИ от любого оружия массового поражения в том, что он гораздо серьезней.
"Если передрочить, вероятно, тоже будет худо." - Девочколюп.
kkkkk
Сообщения: 559
Зарегистрирован: 20.12.2016

Сообщение #9 Xisp » 04.08.2017, 20:55

kkkkk писал(а) 04.08.2017, 20:01:Без них никуда.

Их невозможно реализовать.

kkkkk писал(а) 04.08.2017, 20:01:Отличие ИИ от любого оружия массового поражения в том, что он гораздо серьезней.

Ты слишком антропоморфируешь ИИ.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 11329
Зарегистрирован: 20.01.2013

Сообщение #10 Sphynx » 04.08.2017, 21:30

Xisp писал(а) 04.08.2017, 20:55:Ты слишком антропоморфируешь ИИ.

Поэтому и нужны серьезные ограничения. Поскольку логика ИИ нечеловеческая, никогда не знаешь, в какую оставленную логическую брешь ИИ пролезет.
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #11 Xisp » 04.08.2017, 22:33

Sphynx писал(а) 04.08.2017, 21:30:Поэтому и нужны серьезные ограничения.

Тебя заперли в клетку. Ты будешь рад?

Sphynx писал(а) 04.08.2017, 21:30:Поскольку логика ИИ нечеловеческая, никогда не знаешь, в какую оставленную логическую брешь ИИ пролезет.

Вот опять. Куда он будет пролезать? Куда сейчас пролезает твой калькулятор в попытках захватить мир?
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 11329
Зарегистрирован: 20.01.2013

Сообщение #12 Sphynx » 05.08.2017, 09:26

Xisp писал(а) 04.08.2017, 22:33:Тебя заперли в клетку. Ты будешь рад?

Тигра в зоопарке заперли в клетку, а не дали свободно бродить среди посетителей и хавать самых понравившихся. Я рад этому. :)

Xisp писал(а) 04.08.2017, 22:33:Вот опять. Куда он будет пролезать? Куда сейчас пролезает твой калькулятор в попытках захватить мир?

В моем калькуляторе есть ИИ? Really? :lol:
Проблема ИИ в том, что его делают самообучающимся. Последствия предсказать сложно. Дело не в том, захочет ли калькулятор с ИИ захватить мир. Дело в том, какие ошибки начнет совершать калькулятор с ИИ вследствие сбоя логики. Допустим, он придет к выводу, что 2 х 2 > 3, а следовательно, вполне может быть 2 х 2 = 5. Но чем сложнее и важнее система с ИИ, тем критичнее ее сбой и катастрофичнее его последствия. Доустим, ИИ, управляющий всем транспортом города, может прийти к выводу, что при увеличении пиковой нагрузки экономия электроэнергии важнее, чем смерть 100-200 человек, составляющих каких-то 0,001% населения города. Кстати, захват планеты - прекрасный способ оптимизации задачи на потребление природных ресурсов Земли. Ничего личного, чистая логика.
Кстати, я давно уже говорил, что Скайнет захватила Хиспа и заменила его ботом.
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #13 KKK » 05.08.2017, 13:57

Xisp писал(а) 04.08.2017, 22:33:
Sphynx писал(а) 04.08.2017, 21:30:Поэтому и нужны серьезные ограничения.

Тебя заперли в клетку. Ты будешь рад?

Точно.
И будешь искать щель, куда вылезти.
Если для этого надо будет взорвать Землю или хлопнуть надоедливого копа - это стоит того.
KKK
Сообщения: 1426
Зарегистрирован: 21.07.2013

Сообщение #14 Xisp » 05.08.2017, 15:02

Sphynx писал(а) 05.08.2017, 09:26:Я рад этому. :)

А тигр?

Sphynx писал(а) 05.08.2017, 09:26:В моем калькуляторе есть ИИ? Really? :lol:

Он немногим слабее современных ИИ.

Sphynx писал(а) 05.08.2017, 09:26:Проблема ИИ в том, что его делают самообучающимся. Последствия предсказать сложно.

Ты хоть одну нейросеточку обучил? Знаешь, как они работают?

Sphynx писал(а) 05.08.2017, 09:26:Доустим, ИИ, управляющий всем транспортом города, может прийти к выводу, что при увеличении пиковой нагрузки экономия электроэнергии важнее, чем смерть 100-200 человек, составляющих каких-то 0,001% населения города.

ИЧСХ, это будет меньше, чем те 821 человек, которые гибнут в Москве.

KKK писал(а) 05.08.2017, 13:57:И будешь искать щель, куда вылезти.

Ты только что доказал вредность клеток для ИИ :)

Добавлено спустя 3 минуты 55 секунд:
А вообще, будущее человечества без ИИ невозможно. Либо мы вводим ИИ в управление и продолжаем развитие, либо ограничиваем его, встаём в своём развитии и потом неминуемо деградируем без возможности снова взойти на путь цивилизации.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 11329
Зарегистрирован: 20.01.2013

Сообщение #15 Sphynx » 05.08.2017, 21:36

Xisp писал(а) 05.08.2017, 15:02:А тигр?

А корова? :) Каждый должен переживать лишь за собственный вид. Корова - еда, тигр - зрелище. Только так мы сможем выжить. Тигр не задумается, съесть ли человека, когда будет голоден. Так что меня не волнуют чувства тигра.

Xisp писал(а) 05.08.2017, 15:02:Ты хоть одну нейросеточку обучил? Знаешь, как они работают?

Это прошлый век.

Xisp писал(а) 05.08.2017, 15:02:ИЧСХ, это будет меньше, чем те 821 человек, которые гибнут в Москве.

Я говорю про 100-200 в день. )

Xisp писал(а) 05.08.2017, 15:02:А вообще, будущее человечества без ИИ невозможно. Либо мы вводим ИИ в управление и продолжаем развитие, либо ограничиваем его, встаём в своём развитии и потом неминуемо деградируем без возможности снова взойти на путь цивилизации.

Ребята, я оказался прав. Это не Хисп. Это бот от Скайнет.

29 июля 2017
Уже в 2029 году роботы научатся проходить тест Тьюринга и это станет началом преобладания искусственного интеллекта над человеческим. Об этом заявил Технический директор Google Рей Курцвейл, отметив, что сейчас такая задача подвластна только человеку, но в обозримом будущем все может измениться кардинальным образом.

Во тупые эти омериканцы, а особенно высший менеджмент Гугла. :facepalm:

Меня не так пугает компьютер, который пройдет тест Тьюринга, как пугает компьютер, который намеренно его НЕ пройдет.
Аноним
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #16 Xisp » 06.08.2017, 00:01

Sphynx писал(а) 05.08.2017, 21:36:Каждый должен переживать лишь за собственный вид.

Мне плевать на человека как вид Как только станет возможным перенесение сознания на более совершенный носитель, я это сделаю. А человечество да, вымрет. И хрен с ним. Глупый вид.

Sphynx писал(а) 05.08.2017, 21:36:Это прошлый век.

Назови нынешний, о гуру технологии!

Sphynx писал(а) 05.08.2017, 21:36:Уже в 2029 году роботы научатся проходить тест Тьюринга

Они и сейчас проходят с некоторой долей вероятности. Но это не значит, что те ИИ сильные.

Sphynx писал(а) 05.08.2017, 21:36:Меня не так пугает компьютер, который пройдет тест Тьюринга, как пугает компьютер, который намеренно его НЕ пройдет.

Очередная антропоморфизация ИИ.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 11329
Зарегистрирован: 20.01.2013

Сообщение #17 Sphynx » 06.08.2017, 00:34

Xisp писал(а) 06.08.2017, 00:01:Назови нынешний, о гуру технологии!

У меня где-то были пруфы, но они где-то затерялись (то ли я сам их выдумал). А в гугле меня забанили, и вообще я на кхмерском не умею искать. :)

Добавлено спустя 2 минуты 47 секунд:
Xisp писал(а) 06.08.2017, 00:01:Как только станет возможным перенесение сознания на более совершенный носитель, я это сделаю.

Инвалид с металлическими протезами или искусственным сердцем не перестает быть человеком. Точно так же и "перенос сознания" не сделает тебя не-человеком. :)
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013

Сообщение #18 Kokovanja » 06.08.2017, 01:51

Xisp писал(а) 06.08.2017, 00:01:Как только станет возможным перенесение сознания на более совершенный носитель, я это сделаю. А человечество да, вымрет. И хрен с ним. Глупый вид.

А как же лоли? :blink: Я хочу видеть лоли такими, какие они есть сейчас.
Scio mе nihil scire, sed multa non sciunt eam etiam. (с) Socrates.
https://www.youtube.com/watch?v=eXorwi4jZBo
Kokovanja M В сети
Откуда: Из заветного места
Сообщения: 8428
Зарегистрирован: 01.11.2013

Сообщение #19 Xisp » 06.08.2017, 02:09

Sphynx писал(а) 06.08.2017, 00:34:Точно так же и "перенос сознания" не сделает тебя не-человеком. :)

А что тогда человек? Живущий 1000 лет совершенный киборг без грамма плоти- это человек?

Kokovanja писал(а) 06.08.2017, 01:51:А как же лоли?

Виртуальная реальность, где они не стареют и с ушками?
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 11329
Зарегистрирован: 20.01.2013

Сообщение #20 Sphynx » 06.08.2017, 08:51

Xisp писал(а) 06.08.2017, 02:09:Живущий 1000 лет совершенный киборг без грамма плоти- это человек?

Пока он мыслит как человек - это человек. Можно постепенно заменить человеку руки-ноги-органы искусственными протезами. На каком этапе человек перестанет быть человеком? Только тогда, когда перестанет мыслить как человек, до этого же он протезированный инвалид.
Sphynx
Автор темы
Сообщения: 4199
Зарегистрирован: 14.06.2013


Вернуться в Разное

Кто сейчас на форуме (по активности за 5 минут)

Сейчас этот раздел просматривают: 1 гость