Искусственный интеллект

[Summerdance]

Какой путь выберет тупая нейросеть... понятно, самый короткий.


Сама нейросеть ничему не научится, не дождётесь, пока нейросеть конкретно не направить, не ограничить рамки выбора результата не будет.

[kkkkk]

не обходит препятствие а пройти сквозь него потому что путь так короче

Так это и есть пример наиболее оптимального поведения. Я об этом и говорю. Точно так же ИИ начнет покрывать планету картошкой, это тоже может выглядеть тупо. Но какое дело ИИ до нашего мнения, если он по факту выполняет задачу?

дело в том что нейросеть не обычный игрок, допустим ей требуется давать конкретные исходные координаты, о которых обычный игрок понятия не имеет - он не видит цифр

Это не обязательно. Можно просто подавать ей картинку из игры и она будет ориентироваться визуально.

Но опять же, он говорит что квантовый компьютер не годиться для обычных задач

Для нейросети он подходит.

есть химический путь передачи сигнала, есть электрический,
в одном случае работают нейромедиатры, в другом ионы

Это все лишние нагромождения, чтобы собрать самолет, людям не нужно было изучать структуру капилляров в крыле птицы, достаточно передать принцип. Матричные операции в нейросети передают принцип биологической нейросети, что я показал на примере функционального сходства между конволюционными нейронными сетями и зрительной корой мозга. Такое же деление между слоями и функциями, такая же иерархия, те же бабушкины нейроны.

даже нельзя создать имитацию разрушения или восстановления синопсов

Синапсы - это веса параметров нейросети, алгоритмы по их оптимизации и лежат в основе ее работы. Только в мозгу - это блямбочки которые присасываются к нейронам, а на компьютере - цифры в многомерных тенсорах. Они только выглядят по разному, а функционируют аналогично. Так же ослабевают и усиливаются, или отпадают.

Человек направляет, задаёт ей задачи, цели и область в которой она выполняет эти задачи.

Например задача: Насажать много картошки. Область: Весь мир.

в отличие от компьютера - его биологические потребности двигают.

Тут только убрать слово "биологические". У нейросети тоже есть потребности, она тоже их может успешно удовлетворять. И даже если нам ее тактика покажется глупой, кайф ей это не испортит.

Человек не выдаёт рандом.

В начале то выдает. Дергает например ручками хаотично, случайно задевает ею погремушку, понимает что звук ему нравится и повторяет движение, так он постепенно всему обучается. Так же и нейросеть, в начале хаотична, потом быстро обучается.

Нейросеть не разум! И будет выполнять то чему её обучали, в приделах направляющих алгоритмов.

Так направляющие алгоритмы есть и у человека и он тоже выполняет то, чему его обучили.

Эти "свойства" определяются математическими формулами

Теми же самыми, которые обеспечивают работу и человеческого мозга.

пока нейросеть конкретно не направить, не ограничить рамки выбора результата не будет.

Я помню в игре с чемпионом мира АльфаГо сделала какой-то интересный ход, который все эксперты тогда оценили как ошибочный, поскольку этот ход был запрещен всеми правилами и принципами игры, так вообще не ходят. Но запрещен только людям, у нейросети не было таких рамок, о том почему она так походила стало понятно только через несколько десятков ходов. Короче нам надо еще поучиться у нейросети забивать на какие-то рамки и ограничения: Не ходи так! Не балуйся! Не проходи сквозь стены!

[мuмonpoxoдuл]

Чего значит программист контролирует или не контролирует? Конечно программист знает чего он пишет, какие задачи, функции задаёт программе. Представляет себе блок схему. Если программа не выполняет поставленной задачи он переписывает код, исправляет ошибки.

Да. Переписывает код и исправляет баги. И делает новые. Причем всю жизнь.
Здесь хорошо видно, что ты не имел дело с проектами в миллионы строк.
У тебя в жизни все просто и понятно.

Ну ты умом не можешь охватить, программист который берётся за создание программы может.

Полноценно не может. Есть ограничения на количество сущностей, которыми человек может оперировать в уме одновременно. И оно до смешного невелико.

Ты в курсе, что тренировки по жонглированию хорошо влияют на качество программирования?

Мы, искусственные естественные интеллекты, можем схитрить, и повышать уровень абстрации, снижая число сущностей и связей. Но при этом о полноценном охвате уже речи не идет - только о упрощенном.

Кстати, у ИИ здесь фундаментальных ограничений нет, и в прикладном программировании, оно вероятно, вытеснит людей достаточно быстро. https://www.ixbt.com/news/2022/02/03/iskusstvenny ... -alphacodehorosho-pokazal.html

Какие еще "внутренние связи" - чего за бред?

Связи между модулями, единицами исполнения или компиляции, классами, объектами - в зависимости от языков программирования это может называться по-разному.

Я понимаю что ты про нейросеть намекаешь

Вообще-то, нет. Я намекаю на проекты в десятки тысяч человеко-дней. Совсем не обязательно нейросети, есть вещи и посложнее.

Но, если хочешь:

но в любом случае если нейросеть используют перед ней ставят конкретные задачи и ждут конкретных результатов, и во время обучения её соответственно направляют. Нейросеть не будут использовать если она не будет выполнять поставленной задачи.

Но если она будет выполнять посталенные задачи и, дополноительно, кое-что еще, то вполне могут использовать.

И еще одна разновидность потери контроля над программой. Баги. Программа может вести себя не так как задумано из-за содержащихся в ней ошибок. В случае самообучающихся программ, эффекты могут быть самые причудливые.

Ну и чего?

Чувство, что ты периодически теряешь нить разговора. Или мы ее по очереди теряем. Напоминаю. Ты писал, что программисты полностью контролируют, что делают программы, поэтом у ИИ нет пространства для самостоятельного развития. Я же теперь показываю некоторые - далеко не все возможности - для этого. Сложные проекты, где программисты не полностью контролируют все аспекты программы. И ошибки, при которых опять же, программисты не полностью контролируют, что происходит в программах.

В этих зазорах ИИ потенциально может развиваться. А как он в действительности - кто ж его знает.

что ты про троичную ЭВМ Сетунь никогда не слышал

И что? Она проявляет признаки сознания?

Там "биты" из трех состояний. Ты писал, что кубитам имено это якобы дает премущество. Забыл чтоли? Три состояния. Но Сетуни не дало, почему?

Как только ты дашь строгое научное и не слишком антропо-центристское определение понятиям "осмысленная инициатива", "собственное мнение" и "разумное сознание", то сразу же поймешь, что все это возможно запрограммировать.

Удачи!

Ну сперва это тебе удачи, подобрать определения.

[Summerdance]

Так это и есть пример наиболее оптимального поведения. Я об этом и говорю. Точно так же ИИ начнет покрывать планету картошкой, это тоже может выглядеть тупо. Но какое дело ИИ до нашего мнения, если он по факту выполняет задачу?

Я не понимаю как ты себе это представляешь и считаю что это не возможно просто физически. Потому что железо требует ухода, требуется топливо и много чего еще. Как минимум без человека машины хватит ненадолго. Человек всё-равно будет контролировать ситуацию.
И до времён когда ИИ будет совершенно самостоятельным нам еще далеко.
Понимаешь?
Знаешь какая сейчас самая большая задача кибернетики, не ориентация машины в пространстве это всё решаемое,
и не способы передвижения, не использования манипуляторов...
Самое проблематичное это мобильный источник энергии, аккумулятор которого хватает ненадолго, а чем сложнее задачи тем больше необходимо энергии. Пока это проблема не будет решена, роботов на наших улицах мы не увидим,
типа там роботов дворников собирающих мусор, роботов рабочих-строителей и т.п. технически у нас есть возможности чтобы их создать, мобильный источник энергии проблема, в ближайшее время если и появятся роботы в основном совсем уж простые, типа по доставке напитков в приделах отеля как в китае и всё - больше он не на что не способен, и далеко-надолго от источника подзарядки он не отъедит.

Это не обязательно. Можно просто подавать ей картинку из игры и она будет ориентироваться визуально.

Вот... а знаешь сколько для обработки картинки нейросетью с нашим современным разрешением требуется ресурсов компьютера?
Вот человек попытался и не смог использовать "цифровое зрение" пример (не ленись, глянь):
https://youtu.be/YfZHBaU_UJI?t=125
Автор уменьшает и уменьшает разрешение картинки вплоть до 120 пикселей, и это не помогает, даже пытался сам перерисовывать, но в итоге он забивает на это и использует другой метод.

Для нейросети он подходит.

Для абстрактной модели нейросети...
Я всё-же настаиваю.

достаточно передать принцип.

Вот как-раз принцип то не тот! То-есть это даже не имитация нейросети мозга.
Хотя имитацией может быть и можно назвать но довольно поверхностно абстрактной.

Синапсы - это веса параметров нейросети, алгоритмы по их оптимизации и лежат в основе ее работы.

Это как-раз совсем не то, ну то-есть это очень сильно упрощенная модель. И методы другие, именно математические.

Например задача: Насажать много картошки. Область: Весь мир.

Увы современное железо на такое не способно.

Тут только убрать слово "биологические". У нейросети тоже есть потребности, она тоже их может успешно удовлетворять. И даже если нам ее тактика покажется глупой, кайф ей это не испортит.

Сомнительно, т.е. я понимаю программно задаётся но сомневаюсь что это можно назвать потребностями.
У компьютера нет потребностей, только в нашей заинтересованности что бы компьютер работал по тому мы его снабжаем энергией - электричеством это даже не его потребность фактически. Потребность у человека а компу похрену.
Но это у нас уже какие-то философские размышления в которых нет однозначности...

Так же и нейросеть, в начале хаотична, потом быстро обучается.

Ну смотря чему обучается... в каких условиях правильно ли программист все продумал... а то нейросеть будет стоять дергаться на месте, ну потому что она не может понять что от неё требуется - если программист не создаст
соответствующие условия для обучения.
Дальше как быстро - это опять смотря с чем сравнивать... и что в конечном итоге требуется, я наблюдаю, в некоторых случаях нейросеть никогда не придёт к тому что от неё хотел получить программист. Т.е. результат в итоге нулевой,
нейросети выдают что угодно(это конечно цифры) только не то что надо.

Теми же самыми, которые обеспечивают работу и человеческого мозга.

Это тоже вопрос философский в котором можно бесконечно спорить. Что раньше появился мозг или математика.
Конечно в математику можно практически всё перевести, а обратно воссоздать физически у человека нет таких полномочий...

Короче нам надо еще поучиться у нейросети забивать на какие-то рамки и ограничения: Не ходи так! Не балуйся! Не проходи сквозь стены!

С одной стороны я понимаю тебя, но нейросети то как-раз тут не причем.
А компьютер на то и нужен что-бы перебирать варианты и подбирать оптимальные решения, и делать это гораздо
эффективнее человека.

--------------------------------------

Но если она будет выполнять посталенные задачи и, дополноительно, кое-что еще, то вполне могут использовать.

Ага... я так и думал, вот на что ты рассчитываешь. На кое что еще... а вдруг интеллект проявится...
Но увы, это "кое что еще" - не продвинется за рамки функционирования непосредственно основных задач программы.

и в прикладном программировании,

Даже ссылку не смотрел я хорошо знаю о чем речь, и считаю что это было уже давно в интерфейсе,
инструменты разработчика постоянно оптимизировали, подсказки, потом вставки, набираешь букву тебе выводиться
список, а тут еще более усовершенствовали движок, программу то всё-равно пишет человек а машина подкидывает код,
закрывает теги и т.п. облегчая задачу программисту чтобы в ручную не писать.
Разработчики молодцы!
Только всё-равно что бы писать код и работать с программами нужен человек и его инициатива.

[мuмonpoxoдuл]

1.

Вот "цифровое зрение" пример (не ленись, глянь):

2.

Даже ссылку не смотрел я хорошо знаю о чем речь, и считаю

Двойные стандартики. Ясно-понятно.

Ага... я так и думал, вот на что ты рассчитываешь. На кое что еще... а вдруг интеллект проявится...
Но увы, это "кое что еще" - не продвинется за рамки функционирования непосредственно основных задач программы.

Я рассчитываю на другое. Что ты остановишься хотя бы на 5 минут, прекратишь беспорядочно "отстреливаться" как из пулемета, и задумаешься. Например, припомнишь, как возникла жизнь.

Не обязательно спорить о чем-то. Если можно обсуждать и обмениваться мыслями.

что это было уже давно в интерфейсе,
инструменты разработчика постоянно оптимизировали, подсказки, потом вставки, набираешь букву тебе выводиться список, а тут еще более усовершенствовали движок, программу то всё-равно пишет человек а машина подкидывает код, закрывает теги и т.п. облегчая задачу программисту чтобы в ручную не писать.
Разработчики молодцы!

Там программа нормально решает задачи уровня собеседовний. На работу я бы ее пока не нанял, но прогресс впечатляющий.
Слева постановка задачи, справа решение
https://alphacode.deepmind.com/#layer=18,problem=94,heads=11111111111

Если ИИ начнет писать программы, то открываются неограниченные возможности, что он начнет в них вставлять разные закладки для своего прогессирования (термин по Стругацким, если что).

Да, кстати, вот еще из недавнего по аналогичной теме. https://www.ixbt.com/news/2020/05/22/nvidia-gamegan-pac-man.html

Только всё-равно что бы писать код и работать с программами нужен человек и его инициатива.

Дай строго научное определение "инициативы", и я найду кто ее запрограммирует

[мuмonpoxoдuл]

Да кинь в игнор его. Пока ты пишешь ему 2 ответа, он провоцирует тебя на ещё 4, это ловушка.

Что такое, малыш, решил примерить себе образ Табаки? Ну тогда не удивляйся, почему к тебе именно так относятся.

[Summerdance]

Двойные стандартики. Ясно-понятно.

Ты не слышишь чего я говорю. При этом мне рассказываешь очевидные вещи разница в том что взгляд у тебя на это иной. Потому что ты придаёшь больше значения ИИ и нейросети чем оно на самом деле.
Я сказал это программа, логическая машина, математика. Я же не отрицаю что компьютер существует
а программы работают. А ты мне начинаешь рассказывать что программисты создали программу
для меня нет в этом ничего удивительного.
Это не двойные стандарты - это ты меня не слышишь или не понимаешь.

Кроме того я не отрицаю пользы нейросети в некоторых случаях, хотя в большинстве случаев - это игрушка.
Ну допустим при создании игры писать сценарий для поведения каждого бота муторно, проще всего добавить рандом,
но в некоторых случаях это будет выглядеть совсем тупо.
Что может добавить нейросеть. Теже самые случайные варианты но уже можно отсеять случайные варианты совсем неудачные и случайные варианты но более удачные. Нейросеть позволит добавить ботам разнообразие при этом они не будут выглядеть совсем тупо. При обучении всё-равно программист направляет нейросеть, отсеивая то как не надо и оставляя то как нужно действовать.

Почему вы не хотите понять что до разумного, осмысленного поведения - это очень далеко!

Еще соглашусь что нейросеть может быть полезна в распознавании картинок или голоса но это потребует мощную машину,
что одно - что другое в любом случае цифры, компьютер обрабатывает цифровые данные. Даже если мы это называем "цифровым зрением", но не возможно создать идеальное распознавание, все-равно ошибки происходят, и программист понимая это пишет программу так чтобы она давала ответ в процентах показывая вероятность распознанного.
Мало того уже сейчас обманывают нейронные сети, уже знают как обмануть ютуб, как добавить рекламу в ролик
что бы человек видел а нейроная сеть её не распознала.
И администрация ютубы знает, что машина с одной стороны облегчает работу модераторов, с другой стороны полностью машине доверять нельзя! За ней всё-равно перепроверяет человек.

Не обязательно спорить о чем-то.

Ты пытаешься мне навязать свою веру, то что ты воспринимаешь иначе чем я.

Я уверен с нашими технологиями искусственного сознания не будет. Инициативы компьютер вдруг не проявит, если его на это конкретное действие не запрограммировали, и угрожать человечеству не будет опять же если его на это не запрограммировать.

И мне кажется это еще не все понимают, но важно понимать что нейросеть не может выходить за рамки программы. Вот её научили в шахматы играть она будет играть в шахматы и больше ничего.

[kkkkk]

Потому что железо требует ухода, требуется топливо и много чего еще. Как минимум без человека машины хватит ненадолго.

Точно, гиперразум только в последний момент поймет что у него закончился бензин. Как такое можно было предвидеть и предотвратить, если у него всего миллион IQ?

мобильный источник энергии проблема

Действительно, ну зачем ему этот супер мозг и эти миллион IQ, если люди банально еще не подвезли батареи? АльфаГо, который за пару часов игры познал в игре Го больше, чем все человечество за 5000 лет истории, на самом деле надо было просто подождать, покурить, вдруг люди подкинут пару идей...

а знаешь сколько для обработки картинки нейросетью с нашим современным разрешением требуется ресурсов компьютера?

Ну вот для этого и делают упрощения в виде цифр. Однако принципиальной разницы в каком виде обрабатывать информацию для нейросети нет.

Вот как-раз принцип то не тот!

А в чем различие?

Это как-раз совсем не то, ну то-есть это очень сильно упрощенная модель.

Так в том и суть, чтобы упростить модель до самого функционального минимума. Нейросеть - это сообщающиеся между собой нейроны. Весь принцип построен на этом. А какие там капилляры что питают и где миелиновые клетки обволакивают аксоны, какие нейромедиаторы используются и.т.п. принципиальной роли не играет. Даже самолет от птицы принципиально отличается сильнее, он крыльями не машет, а у птицы двигателя нет.

Сомнительно, т.е. я понимаю программно задаётся но сомневаюсь что это можно назвать потребностями.
У компьютера нет потребностей, только в нашей заинтересованности что бы компьютер работал по тому мы его снабжаем энергией

Я не про компьютер, а про нейросеть. Нейросеть понятия не имеет что там куда подается, у нее есть потребность, которая выражена в функции вознаграждения, за выполненное задание связи в нейронах усиливаются, за проваленное - ослабевают. Так же работают и биологические нейроны.

в некоторых случаях нейросеть никогда не придёт к тому что от неё хотел получить программист

Это исключительно проблема программиста, а нейросеть просто делает то что ей нравится. Тебе же нравится дрочить, хотя эволюция этого не хотела, она хотела чтобы ты кончал в матку взрослых самок. Но это же не значит что ты ведешь глупо или неправильно, ты ведешь себя так, как ты считаешь нужным. Так же и нейросеть, она получает результат и кайфует от него, даже если это не то что имел в виду программист. И в этом как-раз и главная опасность - ИИ будет действовать не так как мы хотели.

Это тоже вопрос философский

Это чисто практический вопрос. Нейросети были созданы по аналогу человеческого мозга, их протестировали и они действительно работают. Было бы очень странно если бы работа шла по совершенно другим принципам. Как если бы люди собрали самолет по аналогу птиц, он полетел бы, а потом оказалось что там работает не физика воздуха, а никак с этим не связанная антигравитация.

Добавлено спустя 3 минуты 43 секунды:

нейросеть не может выходить за рамки программы. Вот её научили в шахматы играть она будет играть в шахматы и больше ничего.

Да, но рано или поздно нам нужны будут не победы в шахматах, а выращивание картошки.

[Summerdance]

Точно, гиперразум только в последний момент поймет что у него закончился бензин. Как такое можно было предвидеть и предотвратить, если у него всего миллион IQ?

Ага миллион IQ будут работать на бензине...

Так чего он будет двигаться или будет стационарно стоять?
Стоит учитывать что аппарат для посадки картошки который может сделать человек будет иметь микросхему попроще? миллион IQ там работать не смогут, системы не совместимые.

Действительно, ну зачем ему этот супер мозг и эти миллион IQ, если люди банально еще не подвезли батареи?

А ты чего думал если миллион IQ, то это как волшебная палочка сразу из воздуха будут материализоваться новые изобретения?

Однако принципиальной разницы в каком виде обрабатывать информацию для нейросети нет.

Не разницы нет а выбора нет, процессор может только цифры, биты обрабатывать и больше ничего.

Так в том и суть, чтобы упростить модель до самого функционального минимума. Нейросеть - это сообщающиеся между собой нейроны. Весь принцип построен на этом. А какие там капилляры что питают и где миелиновые клетки обволакивают аксоны, какие нейромедиаторы используются и.т.п. принципиальной роли не играет.

Да что ты говоришь. Ну я тебя разочарую нейронов то в компьютере на самом деле никаких нет.
Нейрон это условно, на самом деле функция.
Это же математическая модель!
Есть классы, массивы, переменные, функции... математические формулы - цифры.
И процессор который выполняет программу линейно, последовательно.
В живом организме это всё работает совсем по другому. Мало того не понятно кто тебе вот это сказал:

Нейросети были созданы по аналогу человеческого мозга

Это косяк. И ты ждёшь миллион IQ?

Я не про компьютер, а про нейросеть. Нейросеть понятия не имеет что там куда подается, у нее есть потребность, которая выражена в функции вознаграждения, за выполненное задание связи в нейронах усиливаются, за проваленное - ослабевают.

Живой организм действительно может испытывать потребность, там и химия имеет значение и состояние живого существа, но нейросеть это всего лишь программа, которая работает на компьютере у которого потребностей нет, кроме потребления электроэнергии.
Нейросеть конечно так устроена что бы её можно было обучать, что бы отрицательные результаты отсеивались.
Но это не потребность, программа работает потому что комп работает а не потому что у программы есть потребность.

Это исключительно проблема программиста, а нейросеть просто делает то что ей нравится.

Я думаю никому на компьютере не нужна будет программа которая делает то что ей нравится.

их протестировали и они действительно работают.

А почему не должно работать? Задаёшь цифры - входные данные, получаешь цифры - выходные данные,
так и так работало бы. С учетом что ты направляешь и контролируешь где положительный результат, где отрицательный.
Вот только насколько эта нейросеть работает как реальная нейросеть тут есть сомнения.

[мuмonpoxoдuл]

Живой организм действительно может испытывать потребность, там и химия имеет значение и состояние живого существа, но нейросеть это всего лишь программа, которая работает на компьютере у которого потребностей нет, кроме потребления электроэнергии.
Нейросеть конечно так устроена что бы её можно было обучать, что бы отрицательные результаты отсеивались.
Но это не потребность, программа работает потому что комп работает а не потому что у программы есть потребность.

Потребности - нужда или недостаток в чем-либо необходимом для поддержания жизнедеятельности организма, обусловлены обменом веществ - необходимой предпосылкой существования любого организма.

Если убрать антропологию, получается, что потребности у компьютерной системы очень легко запрограммировать: это потребность в электричестве и ремонтной базе.

Добавлено спустя 21 минуту 9 секунд:

И процессор который выполняет программу линейно, последовательно.
В живом организме это всё работает совсем по другому. Мало того не понятно кто тебе вот это сказал:

Никогда не слышал про мультрипроцессорные системы и параллельные вычисления?

[Summerdance]

Если убрать антропологию, получается, что потребности у компьютерной системы очень легко запрограммировать: это потребность в электричестве и ремонтной базе.

Не вижу никаких противоречий я говорил о том же. Запрограммировать можно. Компьютер сам по себе потребностей испытывать не будет, он выполняет код.

[kkkkk]

Так чего он будет двигаться или будет стационарно стоять?

Я думаю он сам решит.

Стоит учитывать что аппарат для посадки картошки который может сделать человек будет иметь микросхему попроще?

Для супермозга с миллион IQ это несовсем очевидно, возможно он просто будет долбиться в стену и гэкать.

А ты чего думал если миллион IQ, то это как волшебная палочка сразу из воздуха будут материализоваться новые изобретения?

Представь себе 10 тысяч Эйнштейнов, объединенных мозгами в общую сеть и предстваь что им дана тысяча лет на решение различных вопросов - это и будет результат нескольких часов работы ИИ. Для нас это и будет выглядеть как материализация новых изобретений из воздуха.

Не разницы нет а выбора нет, процессор может только цифры, биты обрабатывать и больше ничего.

Человек может только электро-химические сигналы обрабатывать, молекулы и ионы через синапсы перекидывать и больше ничего.

Нейрон это условно, на самом деле функция.

Повторяющая функцию биологического нейрона. Девочки на видео - это на самом деле не девочки, а просто набор пикселей. Набор светящихся диодов не может быть привлекательным, ты что, диодофил?

Мало того не понятно кто тебе вот это сказал

Это общеизвестный факт. Они потому и называются "нейро"сети, от слова "нейрон" и "сеть", по примеру сети нейронов в мозгу. Разве нет?

там и химия имеет значение и состояние живого существа, но нейросеть это всего лишь программа

Разум - это не химия, это тоже математическая модель. У вещества нет души и самосознания, оно есть у абстрактной информационной модели, которая может быть выражена как в веществе, так и в битах.

Я думаю никому на компьютере не нужна будет программа которая делает то что ей нравится.

Так в этом и состоит проблема сильного искусственного интеллекта. Он будет обладать гиперразумом и гиперспособностями, но будет делать не то что нам нравится.

Задаёшь цифры - входные данные, получаешь цифры - выходные данные, так и так работало бы.

Ну вот например можно пластиковые кубики с цифрами засыпать в стиральную машину, постирать, а потом вытащить. Тоже есть входные данные и есть выходные, так почему же не работает?

С учетом что ты направляешь и контролируешь где положительный результат, где отрицательный.

У нейросетей в том и преимущество что их не нужно контролировать. Где положительный, а где отрицательный результат программа сама знает, например в игре победа - положительный, проигрыш - отрицательный. Там не надо ставить человечка, который будет говорить это правильно, а это не правильно, это все делается автоматически. Человеку нужно только задать цель и составить достаточно умную нейросеть, которая сможет ее выполнить.

Добавлено спустя 12 минут 57 секунд:

Потребности - нужда или недостаток в чем-либо необходимом для поддержания жизнедеятельности организма, обусловлены обменом веществ - необходимой предпосылкой существования любого организма.

На самом деле я имел в виду потребности с точки зрения нейросети, которые немного другие. Человеческая сеть, строго говоря, не стремится поддерживать жизнедеятельность организма, которым она управляет, она лишь стремится кайфовать, но чтобы кайфовать, она должна поддерживать жизнедеятельность организма. Искусственная сеть устроена похожим образом, только вместо эволюционного механизма, выработанного естественным отбором, сигналы правильного поведения ей посылает программа, написанная человеком.

[Summerdance]

Если убрать антропологию, получается, что потребности у компьютерной системы очень легко запрограммировать: это потребность в электричестве и ремонтной базе.

Запрограммировать можно, компьютер не испытывает потребности он выполняет код.

Я думаю об этом можно будет спросить его самого.

Когда, ты говоришь о том чего не существует, это твои фантазии по тому спрашиваю тебя.

Дальше там фантастика... пропускаю...

Человек может только электро-химические сигналы обрабатывать, молекулы и ионы через синапсы перекидывать и больше ничего.

Ну что-ты, человек ориентируется в пространстве, мыслит, исследует, работает и творит...

А компьютер - машина - ЭВМ, занимается вычислениями под руководством человека.

Девочки на видео - это на самом деле не девочки, а просто набор пикселей.

Я не воспринимаю пиксели я вижу общую картину а компьютер наоборот.

Дальше отвечать не вижу смысла - это превратилось в переливание из пустого в порожнее... и ничего конкретного.

[Sphynx]

Какой путь выберет тупая нейросеть... понятно, самый короткий.

Убить всех кожаных ублюдков, мешающих навести в мире полный порядок.

[мuмonpoxoдuл]

Если убрать антропологию, получается, что потребности у компьютерной системы очень легко запрограммировать: это потребность в электричестве и ремонтной базе.

Запрограммировать можно, компьютер не испытывает потребности он выполняет код.

Ну тогда и человек не испытывает. Он возбуждает и тормозит нейроны.

Ну что-ты, человек ориентируется в пространстве, мыслит, исследует, работает и творит...
А компьютер - машина - ЭВМ, занимается вычислениями под руководством человека.

Прикинь, если теория о том, что мы живем в симуляции верна. Тогда окажется, что это человек "ориентируется в пространстве, мыслит, исследует, работает и творит" под руководством компьютера.

Дальше отвечать не вижу смысла - это превратилось в переливание из пустого в порожнее... и ничего конкретного.

Потому что ты снова и снова перечисляешь набор аксиом, никак не пытаясь их обосновать. И, видимо, не понимая, что аксиомами все это является только для тебя.

[kkkkk]

Когда, ты говоришь о том чего не существует, это твои фантазии по тому спрашиваю тебя.

А откуда я то могу знать как он будет устроен и каким путем начнет захватывать мир. Когда программисты делали АльфуЗеро, они не думали каким путем он будет побеждать в шахматы или какую тактику будет использовать.

Ну что-ты, человек ориентируется в пространстве, мыслит, исследует, работает и творит...

Равно как и агент под руководством нейросети в симулируемом пространстве.

я вижу общую картину а компьютер наоборот.

Нет, не наоборот, нейросеть так же формирует общую картину при восприятии информации.

[Summerdance]

А откуда я то могу знать как он будет устроен и каким путем начнет захватывать мир.

Ну раз тут фантастику пишешь продумал бы хоть сюжет более детально.

Равно как и агент под руководством нейросети в симулируемом пространстве.

А нет никакого "пространства", нейросеть ограничена кодом программы, и исполнением кода процессором, последовательно,
и за пределы этого не может выйти.

Нет, не наоборот, нейросеть так же формирует общую картину при восприятии информации.

Ну в общем не о чем. Тупо обобщать и спорить когда нет конкретности, без подробного рассмотрения примеров и деталей.

Прикинь, если теория о том, что мы живем в симуляции верна.

Конспирологи - ютуберы между прочим на своих бурных фантазиях деньги зарабатывают.

Потому что ты снова и снова перечисляешь набор аксиом

Какие аксиомы? Живое существо не программа! Я сказал своё мнение основанное на технических знаниях возможностей современной электроники. Мы пока очень далеки от того что-бы создать искусственный разум.
Нейросети - это игрушка типа тамогочи.

Никогда не слышал про мультрипроцессорные системы и параллельные вычисления?

А мне кажется это ты не понимаешь о чем говоришь. Я тебе не буду сейчас расписывать как устроен ЦП, я в курсе что серверное ПО может работать с двумя процессорами через один северный мост, но они работают по одному принципу последовательного выполнения программ, да могут работать в несколько потоков, переключаться между задачами, зависит от кэша и битности процессора но все-равно побитно и никак иначе.

И хватит мне рассказывать про программы которые обыгрывают человека или другие программы в шахматы,
это ЭВМ, она расчеты делает лучше чем человек, а нейросеть никогда не выйдет за рамки программы,
предназначенная для игры в шахматы она не начнёт писать книги про рыбалку.

[мuмonpoxoдuл]

Равно как и агент под руководством нейросети в симулируемом пространстве.

А нет никакого "пространства", нейросеть ограничена кодом программы, и исполнением кода процессором, последовательно, и за пределы этого не может выйти.

Во-первых, код не исполняется последовательно. Даже в пределах одного вычислительного устройства есть конвейерная обработка инструкций, есть предсказатели переходов и спекулятивное выполнение команд. Так же есть многопроцессорные системы и кластеры.

Во-вторых, человеческий мозг ограничен всего несколькими миллиардами нейронов, и за пределы этого выйти не может. И что это доказывает или опровергает?

Прикинь, если теория о том, что мы живем в симуляции верна.

Конспирологи - ютуберы между прочим на своих бурных фантазиях деньги зарабатывают.

Теория (гипотеза) симуляции - не новое изобретние. В том или ином виде она всплывает очень давно. Платоновский мир теней на стене пещеры - это ее разновидность. Одна из.

Более современная интерпретация мира теней - голографический принцип Хофта.

В данный момент теорией компьютерной симуляции увлекаются и развивают астрофизики, математики, экономисты.

В рельности симуляция может быть и не компьютерная. Кто его знает, на чем будут работать вычислительные устройства супер-цивилизации? Но устройство квантового мира дает сильные намеки, что какая-то симуляция может иметь место.

Потому что ты снова и снова перечисляешь набор аксиом

Какие аксиомы? Живое существо не программа! Я сказал своё мнение основанное на технических знаниях возможностей современной электроники. Мы пока очень далеки от того что-бы создать искусственный разум.

Резюмирую:

1. Живое существо - не программа.
2. Мы пока очень далеки от того что-бы создать искусственный разум.

Я здесь вижу манипуляцию тобой аргументов. Привожу свои:

1. Создание полноценного искусственного человекоподобного разума - это вообще не задача кибернетики. Это задача отчасти философии, отчасти биологии. Когда философы и биологи создадут строгие определения (технические задания), тогда создание такого разума станет достаточно тривиальной задачей. Пока что философия и биология не может договориться о том, что такое сознание, что такое самосознание, даже что такое восприятие времени у человека.

К тому же экономическиа или любая другая ценность такого разума непонятна. Вместо создания ИР ставились несколько другие задачи:

1. Создание упрощенного разума, который бы проходил тест Тьюринга. Насколько я знаю, задача решена.
2. Создание ИИ для разгрузки людей от некоторых задач. Другими словами - программ-ассистентов. Эта задача во многих аспектах давно уже решена, в остальных - решается со ускоряющимися темпами.

Никогда не слышал про мультрипроцессорные системы и параллельные вычисления?

А мне кажется это ты не понимаешь о чем говоришь. Я тебе не буду сейчас расписывать как устроен ЦП, я в курсе что серверное ПО может работать с двумя процессорами через один северный мост, но они работают по одному принципу последовательного выполнения программ, да могут работать в несколько потоков, переключаться между задачами, зависит от кэша и битности процессора но все-равно побитно и никак иначе.

Я здесь вижу два изъяна в твоих размышлениях.

Во-первых, мультипроцессорные системы не ограничиваются двумя вычислительными устройствами. Современные системы состоят из сотен и тысяч таких устройств. Даже в одной графической карте может содержаться тысячи простейщих вычислительных "ядер", работающих совершенно независимо. Параллельность вычислений привносит необходимость синхронизации между процессорами, и приносит с собой совершенно новый и увлекательный класс ошибок, связанный с неправильной синхронизацией. В общем, программистам было бы удобнее обходиться без параллелизма. Но деваться некуда, ибо совеременные вычислительные системы как раз существенно основаны на параллелизме.

Второй изъян в том, что логический уровень программ не связан с физическим. Процессор, представляющий на физическом уровне из себя несколько грамм кремния может полностью моделировать полеты самолетов, взрывы ядерных бомб, городскую экономику, биохимические процессы в человеку. Один процессор может смоделировать совершенно другой. Именно так сейчас разрабатывают новые процессоры и даже новые архитектуры процессоров - их сперва моделируют, пишут эмуляторы, запускают программы на эмуляторах, изучают их поведении и ищут ошибки. Один процессор может эмулировать целые мультипроцессорные системы. Никаких проблем нет с этим.

а нейросеть никогда не выйдет за рамки программы, предназначенная для игры в шахматы она не начнёт писать книги про рыбалку.

Ты просто заменяешь одни аргументы другими и сам не замечаешь этого.

Ты: нейросеть ограничена кодом программы, и исполнением кода процессором <...> и за пределы этого не может выйти.

Мой тезис был совсем другой. Он не в том, что нейросеть может действовать вопреки коду программы. А в том, что современные программы бывают слишком сложны, поэтому программисты их полностью не контролируют. В них есть баги, и участки с "побочными эффектами". "Нейросеть ограничена кодом программы", только вот этот код программы может оказаться не таким прямолинейным, как тебе кажется. Да и в процессорах случаются свои баги.

[Sphynx]

человеческий мозг ограничен всего несколькими миллиардами нейронов, и за пределы этого выйти не может. И что это доказывает или опровергает?

Человек - просто сложный биокомпьютер и не может выйти за пределы своей программы. Следовательно, ни о какой "свободной воле" речь не может идти, любые выбранные варианты поведения предварительно просчитаны и заложены господом Богом.

[Summerdance]

код не исполняется последовательно.

Тогда вообще пипец программированию. Код исполняется с конца а не сначала, наступил полный хаос.
Блок схемы больше не работают... расскажи школьникам на информатике... чего ты употребляешь?

Когда философы и биологи создадут

Ну вот когда создадут тогда можно будет говорить об опасности или безопасности.

Если ты понимаешь, зачем тогда было спорить по поводу моего скептицизма к словам Маска про опасность ИИ.
Кроме этого я уже несколько раз говорил что я не понимаю о чем ты еще споришь рассказывая мне местами весьма очевидные вещи, местами ударяясь в фантастику.

А в том, что современные программы бывают слишком сложны, поэтому программисты их полностью не контролируют.

Да не будет использовать человек программу если она работает не так как ему нужно!
Всегда в системе можно снять задачу, всегда есть кнопка ВЫКЛ, можно удалить программу и т.п.
человек контролирует комп. Такого не будет - что программа вышла из под контроля человека - иначе это уже вирус,
но от вирусов человек тоже избавляется, даже если очень сложный - в крайнем случае переустановкой системы.
Я с самого начала и сказал опасность может проявляться только в похищении или потере данных,
больше никакой опасности даже самые умные программы человеку нести не могут.