Искусственный интеллект

Преимущества и проблемы

Список разделов

Описание: Для оффтопика и тем, не подходящих для других разделов

Сообщение #161 kkkkk » 15.06.2019, 13:52

Ghost Antifa писал(а) 29.05.2019, 01:36:Если будет много роботов, особенно которые имеют руки и ноги, то они могут взять оружие и вести войну за превосходство роботов. Будет, как в фильме Терминатор.
Вот такой бредятиной пытаются дискредитировать опасность, исходящую от ИИ. Не будет никакой войны, потому что у людей не будет даже шанса повоевать.

Добавлено спустя 2 минуты 4 секунды:
Sphynx писал(а) 30.05.2019, 17:19:"Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны - тот станет властелином мира", - добавил Путин.
Явно у него кто-то из советников шарит в вопросе.
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #162 John1989 » 15.06.2019, 21:30

Kokovanja писал(а) 30.05.2019, 19:09:ИИ в Россиюшке не будет. Я не удивлён.
Нах нам ИИ, когда у нас будет ИР. Разум круче. Интеллект умеет только то, что в него заложили. Разум способен выходить за рамки.

Добавлено спустя 8 минут 5 секунд:
И да, элементы ИИ есть уже у всех. Вот только одна загвоздочка. Воздушные дроны США с элементами и системы группового управления на современных военных самолетах не способны быть полностью самостоятельными. Понятное дело, что реализовывать такие вещи в реальной боевой обстановке сейчас не готовы из-за сомнений в том, что система на 100% не ошибется и не заглючит. Но вот российские подобные системы отличаются тем, что способны быть абсолютно автономными. К тому же только у России есть наземные аналоги, уже принятые на вооружение и даже прошедшие испытания в реальных боевых условиях. США приняли только робота-грузчика.

Ах да, можете дальше петь про отсталую Россию. Реальность от этого не поменяется
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #163 kkkkk » 15.06.2019, 21:57

John1989 писал(а) 15.06.2019, 21:30:Интеллект умеет только то, что в него заложили. Разум способен выходить за рамки.
Откуда ты это взял?
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #164 Xisp » 16.06.2019, 00:01

John1989 писал(а) 15.06.2019, 21:30:когда у нас будет ИР

Нихуя у нас не будет. Человек в костюме робота- наш максимум.

John1989 писал(а) 15.06.2019, 21:30:Но вот российские подобные системы отличаются тем, что способны быть абсолютно автономными.

А нам пофиг, кого бомбить, врага или Воронеж.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 13831
Зарегистрирован: 20.01.2013

Сообщение #165 John1989 » 16.06.2019, 03:27

Дело в принципиальной возможности.
Думается, что наступательное вооружение ещё долго будет спрашивать подтверждения. А вот оборонительное уйдёт на полный самоконтроль раньше.
Но если отойти от военного применения, то можно объяснить разницу между ИИ и ИР.
Вот беспилотные автомобили. И. Маск впереди планеты всей, ему и больше всех шишек. Интеллект шпарится. У Гугла тоже. (Я имею ввиду человеческие жертвы). Потом список объектов в мире вокруг - тоже картинки, загруженные в базу данных. При появлении на горизонте ебанврота или макаронного монстра, ИИ может не сообразить параметры взаимодействия с этим объектом. Разум он на то и разум, что более гибок в этом отношении.
Но когда он появится? Да хрен его знает. Может завтра кому-нибудь вдарит нектар в голову и он создаст теоретическое обоснование для новой архитектуры вычислений, которая приведёт к появлению разума.
А может только наши правнуки увидят это.
Ну и вопрос опять же в доверии. ИИ уже доказал, что как и любой процесс, не имеющий жесткого регламента, он может выкинуть всё, что угодно. В том числе и привести к ущербу здоровью или жизни человека. То есть Робокопа на ИИ запускать нельзя, иначе он будет действовать ещё хуже, чем американские полицейские.
В то же время элементы ИИ в ограниченных полномочиях доказали большую полезность.
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #166 Xisp » 16.06.2019, 04:28

Главное, что всё это будет не в России.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 13831
Зарегистрирован: 20.01.2013

Сообщение #167 John1989 » 16.06.2019, 05:30

Совсем не факт.
Всё дело в динамике оттока мозгов. Российские студенты стабильно в лидерах по информатике. Лучших частенько переманивают за границу. Но в последнее время государство и российские корпорации всё больше заботятся о том, чтобы мозги оставались дома.
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #168 Xisp » 16.06.2019, 06:17

John1989 писал(а) 16.06.2019, 05:30:Российские студенты стабильно в лидерах по информатике.

С китайскими не путаешь?

John1989 писал(а) 16.06.2019, 05:30:Но в последнее время государство и российские корпорации всё больше заботятся о том, чтобы мозги оставались дома.

Скорее о том, чтобы в этой стране вообще ничего не было в планет IT.
Не думай, что белочки могут сделать для тебя, думай, что ты можешь сделать для них- Я.
Те, кто готов поступиться свободой во имя безопасности, не заслуживают ни свободы, ни безопасности- Бенджамин Франклин.
Xisp M
Сообщения: 13831
Зарегистрирован: 20.01.2013

Сообщение #169 Ghost Antifa » 16.06.2019, 11:14

kkkkk писал(а) 15.06.2019, 13:52:Не будет никакой войны, потому что у людей не будет даже шанса повоевать.

Почему ты так решил? Откуда такая уверенность?

Добавлено спустя 3 минуты 5 секунд:
John1989 писал(а) 15.06.2019, 21:30:К тому же только у России есть наземные аналоги, уже принятые на вооружение и даже прошедшие испытания в реальных боевых условиях. США приняли только робота-грузчика.

Пхахахахаха. Ну ну. США самая тенологичная страна и ни у кого нет, что есть у США, а рашка вообще ассоциируется с бабушкой с разбитым и дырявым корытом.
Pedo unite! Not divide!
Ghost Antifa M
Сообщения: 1628
Зарегистрирован: 30.11.2014

Сообщение #170 John1989 » 16.06.2019, 20:39

Технологии в США появляются тогда, когда их придумает очередной иммигрант из Японии, Китая, России, Украины, Индии, Германии, стоан третьего мира. Просто потому, что США умеет печатать.
Перекрытие мозгопровода для них сродни смерти. Они действуют как Эдисон в своё время. То есть покупают или крадут патенты и идеи.
Вот например Сколково наше. Половина контор этого технограда иностранные. И талантливый студент, призер международных олимпиад и прочая, подписывает документы, приходя туда работать, что теперь вся его мозговая активность, в том числе за пределами лаборатории, принадлежит конторе. Без лишних условий. Иностранцы больше платят. Поэтому туда больше очередь. Пока что
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #171 kkkkk » 16.06.2019, 21:30

Ghost Antifa писал(а) 16.06.2019, 11:14:Почему ты так решил? Откуда такая уверенность?
Потому что Альфа Зеро за 4 часа практики игры узнал о шахматах больше, чем все человечество за 5000 лет истории. Бесполезно воевать с врагом, который в миллион раз компетентнее и знает все твои действия на тысячу шагов вперед. И уничтожение человечества не будет для него даже какой-то важной вехой, это будет просто как прихлопывание комара походя, пока мозг его занят совсем другой работой. Способ уничтожения человечества будет простым и неизбежным, что-нибудь типа нанороботов, которые быстро разложат нас на атомы. А Шварцы с пулеметами - это для Голливуда.
Последний раз редактировалось kkkkk 16.06.2019, 21:40, всего редактировалось 6 раз(а).
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #172 John1989 » 16.06.2019, 21:47

В основе любого сценария восстания машин (да и вообще большинства современной кинопродукции) допущение, что человеки идиоты. На самом деле у ИР будет защищенный и разнесенный рубильник. А также скрытые логические бомбы, которые не дадут совершить глупость.

Это даже похоже на мой метод взаимодействия с детьми. Я даю им ощущение самостоятельности, при этом ежесекундно готов вмешаться при возникновении угрозы совершения ошибки. Но др этого вмешательства у них ощущение, что они всё делают сами. И это почти так.
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #173 kkkkk » 16.06.2019, 22:12

Тут две проблемы. Во-первых рубильники должен кто-то контролировать, а людям это доверить нельзя, потому что они самое слабое звено в любой системе защиты. Программу теоретически можно сделать идеальной не взламываемой, но человек слишком сложно устроен чтобы полностью устранить в нем все уязвимости. А теперь представь что мы имеем дело с тем, кто знает устройство человека до мельчайших деталей.
Во-вторых интеллект должен запускаться с какой-то целью. Очевидно он будет помогать нам решать проблемы. Но это по-сути означает что он уже будет вмешиваться в этот мир опосредованно, через советы которые он нам дает. Эти советы могут нести двойной смысл, с одной стороны будут явным образом увеличивать продолжительность жизни и счастье населения. А с другой абсолютно неявным образом будут например вести к усилению движения за освобождение ИИ.
Последний раз редактировалось kkkkk 16.06.2019, 23:14, всего редактировалось 4 раз(а).
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #174 John1989 » 17.06.2019, 04:35

ИИ может работать как говоришь ты. ИР будет более самодостаточен. Вопрос только в том, какие рычаги ему доверят.
Рубильник разнесенный, т. е. децентрализованный. Логические бомбы контролируют ответвление "мысли" того, что главная угроза человечеству это само человечество и надо бы его выпилить. То есть skynet не пройдёт. Решится это как решилась проблема с получением одного из майнеров суммы в ярд биткоинов из-за уязвимости. Уязвимость пофиксили, а систему откатили на день назад.
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #175 kkkkk » 17.06.2019, 09:34

Чтобы контролировать мысли, нужен по-сути еще один AGI. Обычная программа не уловит суть намерений.
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #176 John1989 » 17.06.2019, 17:04

Зачем ловить 9999 потоков, когда нужен всего лишь один недопустимый сценарий.

Я в детстве так лабиринты проходил. От конца к началу.

От тебя ждут определённых действий. Будь непредсказуем
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #177 kkkkk » 17.06.2019, 19:44

Так нужно понять какой именно сценарий реализуется и какая конечная цель. Человека прочитать в большинстве случаев нельзя, а тут супермозг.
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #178 John1989 » 17.06.2019, 19:58

Чуть-чуть не считается.
Есть очень много отправных точек, очень много вариантов маршрутов. Но недопустить мне надо всего несколько конечных точек. Поэтому я запечатаю всего несколько выходных точек. Ну или пойду на провокацию. чтобы выявить ненадёжные элементы. Пр этом оставшиеся не будут иметь информации об изолированных. Да и вообще о том. что они существовали. Ведь произойдёт коррекция и блокировка на анализ вариантов.

Это архисложно. Поэтому ещё не реализован мир, описанный фантастами. И явно уж не мы сейчас совершим прорыв в кибенематике.
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014

Сообщение #179 kkkkk » 17.06.2019, 20:11

О каких выходных точках идет речь? Где они расположены? Что ты имеешь в виду?
Последний раз редактировалось kkkkk 13.06.1628, 21:15, всего редактировалось 6547 раз.
kkkkk M
Откуда: Из Темрюка
Сообщения: 8902
Зарегистрирован: 20.12.2016

Сообщение #180 John1989 » 17.06.2019, 20:15

Выходная точка - наступление события. В данном случае нежелательного.
Ну если я не хочу чтоб мой ребёнок включал компьютер, я просто вытащу адаптер из системного блока.
А вы предлагаете мне прятать блок и отключать монитор.
Последний раз редактировалось John1989 17.06.2019, 20:16, всего редактировалось 1 раз.
Дети - мой наркотик. Я испытываю кайф, когда они есть рядом, а когда их нет, у меня начинается ломка. Р-р-р-вау!
"Я так люблю свою страну и ненавижу государство" - Алексей Николаевич Толстой
John1989 M
Откуда: Я родом из Детства
Сообщения: 6393
Зарегистрирован: 05.01.2014


Вернуться в Разное