Искусственный интеллект

[Felix]

[kkkkk]

Ну вообще-то я использовал слово "ревайринг" как уточнение слова "загрузка". То-есть загрузка путем изменения конфигурации нейронов.

[Kokovanja]

Это кто?

[мuмonpoxoдuл]

Вылитый я.

Добавлено спустя 5 минут 7 секунд:
Kokovanja, верни порнуху!

[Kokovanja]

В чат.

[kkkkk]

Это кто?

Похож на папу римского из Игры Престолов

[Hotaru]

Это кто?

Это классика! Это знать надо! Это Дарт Сидиус. Он же император Палпатин. Учитель Дарта Вейдера когда тот встал на тёмную сторону силы.

[Summerdance]

Илон Маск считает искусственный интеллект главной угрозой для цивилизации

Мне опять попался ролик, хотя по моему это тоже устаревший материал - об этом упоминает автор ролика...
Тем не менее, у меня создалось впечатление что Илон Маск либо вообще не понимает что такое ИИ на самом деле,
даже больше для него как будто нет разницы между ИИ и нейросетью, либо он всё понимает а все эти попытки постращать
народ это для того чтобы выбить госбюджет на проекты кибер-безопасности.


https://youtube.com/watch?v=hLIWrBLICd4


Дроны убийцы И причем тут ИИ вообще? Роботы которые выполняют команды человека за это несет ответственность человек.

На самом деле про угрозу - всё это туфта. Нейросеть это игрушка для взрослых, которая рассчитана на что что бы обучать своего очень тупого Тамагочи... ну потому что если его специально не тыкать на каждой ошибке то его обучение не сдвинется с места.
По началу никакая нейросеть не может работать, надо создать ей базу, надо тыкать на каждую ошибку, нянчится с ней.
И всё-равно в итоге мы получаем узкоспециализированную область работы установленную тем кто её программирует и обучает.
Человек задаёт алгоритмы, как и для ИИ, в любом случае человек выбирает в каком направлении будет работать программа, задаёт её цели.
Если не запрограммировать робота, дрона на конкретные мирные или агрессивные действия, то пока еще не существует технологий когда машина сама сможет проявить инициативу.
Компьютер, телефон или системный блок не имеет конечностей которых он смог бы использовать агрессивно против человека. О какой опасности Илон Маск рассказывает?
Опять мы возвращаемся разве что к опасности похищения данных или подмены, но тут только одно направление фаерволы, в котором нужно работать безопасности - это известно давно.

Тогда чего людям морочить голову о летающих дронах убийцах, это уже военные действия, оружие - на совести военных и в случае если появятся такие дроны то след приведёт к людям, к организации.
И ИИ тут непричем, машина используется человеком, и точно выполняет то что от неё требует человек, программист.

[cute_is_all]

Тем не менее, у меня создалось впечатление что Илон Маск либо вообще не понимает что такое ИИ на самом деле,

Под ИИ уже давно подразумиваются обычные нейронные сети. Маркетологи угнали этот термин, и выжимают все соки, которые ещё остались.

Поэтому зачем пытаться вернуть себе убитый термин, вот Илон Маск его в современном смысле и использует.

[kkkkk]

Чел, который разрабатывает самоуправляемые машины, я думаю понимает что такое ИИ. Сегодня ИИ - это и есть нейросети. Любая другая форма, вроде заскриптованного поведения ботов в играх - это просто имитация. На счет дронов-убийц согласен, опасность не в них, просто простолюдинам проще объяснить на их примере, чем на каком-то непонятном алгоритме.

в любом случае человек выбирает в каком направлении будет работать программа, задаёт её цели.

Когда ИИ дают задание набирать очки в игре, он зачастую находит эксплойты и просто хакает игру. Мир немного сложнее игры, но если ИИ научится в нем ориентироваться и выполнять цели, то не факт что он будет выполнять их именно так как мы хотели. Скажи ему "сажай картошку" и он покроет ею всю планту, а нас отправит на удобрение. И да, когда мы дадим ему цель, любую цель, то самое первое что он должен будет сделать - это помешать нам его отключить или поменять цель, потому что тогда он не сможет эту цель выполнить, а ведь у него цель ее выполнить, так что вот.

Компьютер, телефон или системный блок не имеет конечностей которых он смог бы использовать агрессивно против человека.

Если ему дать возможность воздействовать на окружающий мир, то он найдет способы. Существо с миллион IQ и способностью предсказывать каждый наш шаг на годы вперед, сможет продумать кучу способов нас обыграть. А не дать ему возможность влиять на окружающий мир (прямо или косвенно) мы не можем, иначе какая тогда от него будет польза?

[мuмonpoxoдuл]

По началу никакая нейросеть не может работать, надо создать ей базу, надо тыкать на каждую ошибку, нянчится с ней.
И всё-равно в итоге мы получаем узкоспециализированную область работы установленную тем кто её программирует и обучает.
Человек задаёт алгоритмы, как и для ИИ, в любом случае человек выбирает в каком направлении будет работать программа, задаёт её цели.
Если не запрограммировать робота, дрона на конкретные мирные или агрессивные действия, то пока еще не существует технологий когда машина сама сможет проявить инициативу.

Искусство заключается в том, чтобы сделать так, чтобы не пришлось "нянчиться с ней".
Допустим, мы хотим сделать крутой поисковый портал, и умеем следить за всеми ползователями - что они вообще делают в сети. Тогда делаем систему, которая будет показывать по поисковым запросам подходящий список страниц. И будем смотреть, куда пользователи чаще нажимают. И на чтении каких страниц дольше "зависают" - с учетом их размера.

Следующим пользователям на такие же запросы будем подсовывать соответсующие страницы первыми.

Если хотим стать еще круче, попробуем разбить пользователей на классы - молодые/пожилые, мужчины/женщины, холостяки/семейные, бездетные/детные, с машиной/без машины. Будем смотреть какие страницы выбирают те или иные классы, и предлагать следующим страницы исходя из того, как вели себя максимально похожие люди.

В такой системе программистам не надо "нянчиться" с программой, пользователи сделают это за них.

Что касается второй части про моральные дилеммы. Их есть у меня. Представь, что создали программу управления винтовкой. Условно назовем ее ИИ. Ну или хотя бы smart - умной. Она может убить конкретного человека или помиловать. Она будет собирать голоса за убийство или помилование, примерно так же как голосование на Евровидение. В зависимости от того, какое действие получит больше голосов, так и поступит.

И вот вопрос: кто будет нести ответственность за убийство, если оно произойдет? Программа? Автор программы? Каждый, голосовавший за убийство? А может, каждый не позвонивший и не голосовавший за помилование? Или сама жертва - тем, что была омерзительна и не смогла понравится половине людей? Или вообще все общество - что на самом деле означет - никто?

[Summerdance]

Под ИИ уже давно подразумиваются обычные нейронные сети.

Эээ... какие "нейронные сети"? При чем так давно не хочешь аш 1952 год?

Модель Ходжкина — Хаксли
https://ru.wikipedia.org/wiki/%D0%9C%D0%BE%D0%B4%D0%B5%D0%BB%D1%8C_%D0%A5%D0%BE%D0%B4%D0%B6%D0%BA%D0%B8%D0%BD%D0%B0_%E2%80%94_%D0%A5%D0%B0%D0%BA%D1%81%D0%BB%D0%B8

Замечу что математическая модель настолько упрощена что даже до сипносов червя нужны такие гиганские вычислительные мощи которых в современном мире НЕ СУЩЕСТВУЕТ даже если объединить миллионы компьютеров в сеть!
"Нейронная сеть" - это лишь громкое название! Она не способна существовать не зависимо, она зависит от целого нагромождения вспомогательных, направляющих алгоритмов. И соответственно может работать только в ограниченных пределах которые задают программисты.
Я про это и говорил!

Человек задаёт алгоритмы, как и для ИИ, в любом случае человек выбирает в каком направлении будет работать программа, задаёт её цели.

Я конечно не хотел бы рушить ваш оптимизм и мечты по этому поводу. Но увы, любой - доступный современный процессор, который основан на ограниченных логических операциях которые проходят в школе и техникуме на информатике, включая перевод в двоичную систему и обратно, просто не совместим с работой мозга, он работает совершенно по иному принципу. По тому мы можем позволить себе только абстрактную модель, которая с натяжкой может имитировать нейронные процессы.
"С натяжкой", повторяю это вспомогательные, направляющие алгоритмы.

Я сказал что нейросеть это игрушка для взрослых в тамогочи, которую взрослые пытаются приспособить для каких то конкретных нужд. Хотя технически от неё толку нет, алгоритмы и так работают, мы можем создать более точно любую программу, запрограммировать любые действия. Копьютер в любом случае будет работать как с нейросетью так и без неё.
Программа имеет БД собирает информацию так работает любая программа, "обучение" нейросети это тоже громко сказано,
я упоминал что нейросеть не работает сначала она тупо выдаёт рандом, в прямом смысле функция Randomize
и ты ей тыкаешь вот это правильное значение а это не правильное... по сути ты опять же закладываешь правильное значение вот и всё.

Искусство заключается в том, чтобы сделать так, чтобы не пришлось "нянчиться с ней".

...

В такой системе программистам не надо "нянчиться" с программой, пользователи сделают это за них.

Прежде всё-же программистам надо создать соответствующие, направляющие алгоритмы.
Пользователи ничего намеренно не делают, работает программа которая реагирует на те или иные действия пользователя.

Представь, что создали программу управления винтовкой.

кто будет нести ответственность за убийство, если оно произойдет?

Ты говоришь про оружие, ответственность несёт тот кто использует это оружие. Кто выдумал всю эту херню.
Даже оружие в разряженном состоянии нельзя направлять на людей, по крайней мере на штатских, безоружных граждан, тебя в армии не учили этому? Если твоё оружие случайно выстрелит - ты будешь виноват!
А в определении виновности и невиновности человека должны быть доказательства, если доказательств нет значит должна работать презумпция невиновности а не голоса чьи то там.

А использование и создание нелегального оружия это преступление. Тут как ты не тужься вину на программу не свалить.

Чел, который разрабатывает самоуправляемые машины, я думаю понимает что такое ИИ.

Ну возможно он что-то понимает только неужели ты думаешь он сам разрабатывает, у него штат программистов.
Илон Маск он в первую очередь хороший пиарщик, менеджер...

Скажи ему "сажай картошку" и он покроет ею всю планту, а нас отправит на удобрение.

У него не хватит опций и инструментов. Ты рисуешь всё несколько фантастично. Не акцентируешь внимание на деталях, что за машина, как перемещается по суше или по российским дорогам, какими китайцами собрана, на каком топлеве работает, допустимые температуры и на сколько ей хватит топлива, не перегреется ли и т.п.
Понимаешь в реальности железо быстрее дохнет. Твоя машина по посадке картошки скорее поле даже не засадит, застрянет в какой нибудь канаве... не то что всю планету.

Если ему дать возможность воздействовать на окружающий мир, то он найдет способы.

Нет. Не будет искать и не будет воздействовать.

Существо с миллион IQ и способностью предсказывать каждый наш шаг на годы вперед, сможет продумать кучу способов нас обыграть. А не дать ему возможность влиять на окружающий мир (прямо или косвенно) мы не можем, иначе какая тогда от него будет польза?

Это фантастика.

[cute_is_all]

Дизмонд. Ты сказал "какие нейронные сети", и скинул "Модель Ходжкина — Хаксли — математическая модель, описывающая генерацию и распространение потенциалов действия в нейронах." Т.е. нейронная сеть, просто одна из разновидностей.

Я не понял, что ты имел ввиду под 1952г. Я имею ввиду, что под искуственным интеллектом давно подразумеваются не програми, которые обладают разумом, а обычные программки для определения объекта на изображении, для распознавания текста, и т.п.

Добавлено спустя 4 минуты 4 секунды:

Она не способна существовать не зависимо, она зависит от целого нагромождения вспомогательных, направляющих алгоритмов. И соответственно может работать только в ограниченных пределах которые задают программисты.
Я про это и говорил!

DIZMOND писал(а) Вчера, 16:21:
Человек задаёт алгоритмы, как и для ИИ, в любом случае человек выбирает в каком направлении будет работать программа, задаёт её цели.

А, теперь, примерно, понял. Ты про то, что это не модель человеческого мозга, а что-то совсем другое. Ну да, в принципе. Но и без этого, даже если бы это была бы точная модель сети в головном мозге, всё равно способ обучения задает только программисты, так что ты прав вдвойне.

Я с тобой, вообще, согласился, просто оказалось, что мы подразумеваем разные пункты.

Добавлено спустя 1 минуту 35 секунд:
Ну маркетологи, в любом случае, используют слова "искусственный интелект" совсем не в том смысле, в котором это словосочетание вообще должно хоть где-то употребляться. Хоть как я имел ввиду, чтобы программа имела разум, что как ты, чтобы программа полноценно моделировала мозг.

Произошёл угон и выжимка всех профитов из крутого словосочетания.

[Sphynx]

Можно подумать, что до создания программ, обладающих разумом, остались еще столетия.

[Summerdance]

Можно подумать, что до создания программ, обладающих разумом, остались еще столетия.

Увы. Мы очень далеки от этого. Компьютер точный исполнитель заданного алгоритма и не имеет собственной инициативы.
Но это тоже хорошо. По крайней мере машину по посадке картошки мы можем создать, что бы облегчить физический труд... но опасаться что чайники и стиральные машины на микропроцессорах восстанут - это смешно.

[Kokovanja]

А можно для тех кто в танке объяснить в двух словах разницу между нейросетью и ИИ?

[мuмonpoxoдuл]

В такой системе программистам не надо "нянчиться" с программой, пользователи сделают это за них.

Прежде всё-же программистам надо создать соответствующие, направляющие алгоритмы.
Пользователи ничего намеренно не делают, работает программа которая реагирует на те или иные действия пользователя.

Программисты создали, тесты прогнали и уехали на Канары.
Дальнейшее поведение программы зависит только от действий пользователей.
Она самообучающаяся, видишь ли.

Представь, что создали программу управления винтовкой.

кто будет нести ответственность за убийство, если оно произойдет?

Ты говоришь про оружие, ответственность несёт тот кто использует это оружие. Кто выдумал всю эту херню.

Херню - это языки программирования? Или компьютеры? Или теорию управления и кибернетику?
Я как бы говорю про моральные парадоксы, а не про оружие.

Если твоё оружие случайно выстрелит - ты будешь виноват!

Случайно не выстрелит. Только если половина и больше проголосует, что подопытные не достоин жизни. Ничего случайного.

Не приходилось читать ¨Билет на планету Транай¨ Шекли?

Добавлено спустя 6 минут 53 секунды:

А можно для тех кто в танке объяснить в двух словах разницу между нейросетью и ИИ?

ИИ - это системы суть более разнообразно реагирующие на внешние факторы, чем простая обратная связь.

Согласно определению ИИ из 70-90 годов:
Программа игры в шахматы - это разновидность ИИ.
Программы распознающие речь - ИИ.
Распознающие видео объекты - тем более.
Программы распознающие номерные знаки и выставляющие штрафы скорости - типичная ИИ.
Система, которая лезет в сеть за прогнозом погоды и меняет режим полива поля если предсказан дождь - тоже пример ИИ.
Сири, Алекса - это все ИИ.

Вокруг нас куча ИИ, и мы с ними отлично живем.

Нейросеть - это конкретный инструмент для создания компьютерных программ, чаще всего для создания ИИ. Но не единственный.

[Summerdance]

А можно для тех кто в танке объяснить в двух словах разницу между нейросетью и ИИ?

Да фактически нет разницы. Хотя конечно есть со старта когда ты определяешься в задаче которую ставишь перед компьютером. Ну видишь, даже Илон Маск в этом особой разницы и не видит. Так что это нормально, с тобой всё в порядке.

Нейросеть это математическая МОДЕЛЬ, как я писал "абстрактная", работы нейронов - далёкая от реальной работы нейронов... которая не может существовать без направляющих, вспомогательных алгоритмов и ограниченная возможностями процессора.

А ИИ это... да это любая программа, четко запрограммированные конкретные реакции (например на клик мышки) и действия.

То-есть не Искусственный Интеллект не Нейросеть в реальности не соответствуют своим понятиям Интеллекта и Нейросети.
Вот cute_is_all всё понял:

Произошёл угон и выжимка всех профитов из крутого словосочетания.

В двух словах нормально или подробнее?

Добавлено спустя 6 минут 48 секунд:
мuмonpoxoдuл, о чем ты?
Компьютеры среди нас кто спорит?
Я говорил только о том что Илон Маск утрирует опасность ИИ, и как я сказал опасность есть только в уязвимости данных, но мы далеки от того чтобы ИИ вдруг сам проявил инициативу и мог каким либо образом угрожать человеку физически.

[мuмonpoxoдuл]

Ну маркетологи, в любом случае, используют слова "искусственный интелект" совсем не в том смысле, в котором это словосочетание вообще должно хоть где-то употребляться.

В том смысле, в котором оно "должно" употребляться: если программа прошла в чате тест Тьюринга в течении часа, то она ИИ. Не надо усложнять. Да, и тест Тьюринга должен проводить не нобелевский лауреат, а типичный землянин: тракторист Вася (или Джон) и продавщица Маня.

Хоть как я имел ввиду, чтобы программа имела разум, что как ты, чтобы программа полноценно моделировала мозг.

Произошёл угон и выжимка всех профитов из крутого словосочетания.

И как же ты собрался моделировать мозг, если там есть достаточно значимые процессы на уровне микромира с квантовыми эффектами?

Добавлено спустя 3 минуты 28 секунд:

Я говорил только о том что Илон Маск утрирует опасность ИИ

Может да. Может нет. Единственное, Маск не является гением по программированию и ИИ системам. Просто богатый успешный организатор. Надо держать это в уме, когда его слушаешь.

и как я сказал опасность есть только в уязвимости данных, но мы далеки от того чтобы ИИ вдруг сам проявил инициативу и мог каким либо образом угрожать человеку физически.

Как ты поймешь, что ИИ начал угрожать человечеству?

[Sphynx]

Я говорил только о том что Илон Маск утрирует опасность ИИ

Да дебил этот ваш Илон Маск, что он там понимает в ИИ и опасностях!

Добавлено спустя 2 минуты 43 секунды:

Как ты поймешь, что ИИ начал угрожать человечеству?

Когда ИИ запустит ракеты с ядерными боеголовками. У Дизмонда будет минут 5, чтобы понять, что он слегка ошибся.