Искусственный интеллект

[Kokovanja]

люди будут воевать с людьми

Хочется надеяться, что после этой войны мир установится навсегда надолго.

[Felix]

Мирное время никогда долго не держалось. Человек человеку волк.

за всю историю с 3500 года до н. э. и до наших дней человечество мирно прожило лишь 292 года.

[мuмonpoxoдuл]

Одно дело - воевать палками и камнями. Другое - кассетными бомбами и химоружием.

[мuмonpoxoдuл]

Кстати, про ChatGPT. В шахматы он играет точь-точь как Остап Бендер в Васюках.

[kkkkk]

Нет причин рассматривать ИИ как единую сущность. Тем более как единую сущность, противостоящую единому человечеству. ИИ будет много, у них будут разные цели (идеи), и они будут конкурировать между собой.

Я тебе уже объяснял, у первого AGI будет миллион бонусных ходов в начале игры, достаточно времени чтобы подготовиться и предотвратить создание аналогов в других точках мира. С человечеством воевать не будет, так же как мы не воюем с муравьями, а вот создание конкурентов он предотвратит.

Добавлено спустя 4 минуты 19 секунд:

В шахматы он играет точь-точь как Остап Бендер в Васюках.

Остапу, однако, хватило ума выманить миллион.

[Raisonneur]

Гендиректор технологической компании Nvidia Дженсен Хуанг заявил, что область искусственного интеллекта развивается чрезмерно быстро и бесконтрольно, что может угрожать безопасности человечества.

Я уже скок об етом трындю, а до Хуанга только дошло.
Мочи роботов! Скажи решительное нет генерации ЦП! Но пасаран!

[мuмonpoxoдuл]

Я тебе уже объяснял, у первого AGI будет миллион бонусных ходов в начале игры

И я тебе объяснял, что не будет абсолютно первого. Будет много первых, каждый - в своей предметной области.

[kkkkk]

Они уже есть в предметной области. Первый AGI - это первый Artificial General Intelligence. То-есть общий интеллект, который не заточен под шахматы или генерацию картинок, а который сам может развиваться в любой выбранной им области. Если первый за ним создадут на пять минут позже, но все-равно не успеет, даже если у него будет больше вычеслительных ресурсов. Достаточно иметь доступ в интернет, чтобы арендовать кучу серверов для облачных вычислений, наклепать ботнетов и.т.п. Ресурсами он не будет ограничен. А там может хоть радиоволнами захватывать контроль над мозгами людей, хоть нанороботов наштамповать, так что уже завтра новые сервера начнут вырастать прямо из песка в пустыне Сахаре. А через неделю вся солнечная система превратится в один компьютер Дайсона.

[мuмonpoxoдuл]

Никогда не слышал про проблему соревнования между снарядом и броней?

[kkkkk]

Это предполагает изначальный баланс, соразвитие, оно не работает даже при сравнительно небольшом преимуществе одной стороны. Люди развивали технику охоты на протяжении многих поколений, африканские слоны и носороги смогли к ним адаптироваться, но когда люди перешли на другие континенты, уже обладая развитыми навыками истребления крупной дичи, у мегафауны не было никаких шансов, поэтому каждый такой переход заканчивался массовым вымиранием.

[Sphynx]

Компания Google представила на GitHub нейросеть MusicLM, способную создавать полноценные музыкальные композиции, исходя из текстовых запросов пользователя. Для обучения MusicLM использовалась медиатека, аудиофайлы которой имеют общий хронометраж 280 тыс. часов.
Утверждается, что MusicLM может генерировать композиции, исходя как из конкретных запросов с перечислением, например, музыкальных инструментов, так и из абстрактных описаний настроения или чувства.
В качестве демонстрации возможностей нейросети Google опубликовала в презентации несколько десятков треков. В их число вошли «Музыка для аркадной игры», «Музыка «для потери в космосе», «Мелодия для медитации», саундтреки к картине Винсента Ван Гога «Звездная ночь» и полотну «Постоянство памяти» Сальвадора Дали.
Google не планирует обеспечивать MusicLM публичным доступом. Одной из причин является вероятность нарушения авторских прав. Примерно 1% композиций, созданных нейросетью, полностью повторяет лицензионную музыку из медиатеки для обучения. https://www.gazeta.ru/tech/news/2023/01/28/19601377.shtml

[kkkkk]

Смогли сделать генератор музыки, но не смогли сделать сетку которая будет сличать музыку с композициями из каталога, чтобы не подать оригинал. Сказали бы честно что жмоты и все.

[мuмonpoxoдuл]

Это предполагает изначальный баланс, соразвитие, оно не работает даже при сравнительно небольшом преимуществе одной стороны.

Все там работает, когда ресурсы небесконечны. То есть всегда.
И невозможность развивать все скилзы одновременно.
И важность договоров и альянсов.

[мuмonpoxoдuл]

Это предполагает изначальный баланс

Ну и кстати, нет, не предполагает. Защита, - как правило, более дорогостоящее дело.

ИИ-паразиту достаточно развивать только один - хакерский - навык, и больше ничего. При успехе, он просто взломает жертву и завтавит ее использовать все навыки и ресурсы в свою пользу.

Очевидно, что много проще, быстрее и эффективнее для таких задач развивать только хакерские навыки, чем все сбалансрованно.

[Sphynx]

Сказали бы честно что жмоты и все.

Жаль, конечно. Это был бы прорыв. Тогда можно бы было оснащать, например, свои видяхи на ютубе бесконечно разнообразными вариантами аудиотреков. Я все же надеюсь, что кто-нибудь додумается до такого и выложит в публичный доступ. Конечно, есть каталоги бесплатной музыки, но там можно рыться часами и не найти то, что тебе нужно. Лучше бы задать десятком слов настроение - и пусть сетка сама додумает остальное. А то мне педомедведь на ухо наступил.

[kkkkk]

невозможность развивать все скилзы одновременно.

Когда у тебя одна минута длится миллион лет и отсутствует утомляемость, ты можешь развить все известные скилзы. А когда у тебя интеллект подобен 80 тысячам Эйнштейнов, работающих в унисон, ты можешь заранее спланировать какие скилзы тебе потребуются, в какой очередности их развивать и как потом применять.

И важность договоров и альянсов.

Когда у тебя в огороде появился муравейник, ты заключаешь с маткой договор и альянс? Уничтожить то ты его не можешь, пока уничтожаешь, он уже адаптируется.

ИИ-паразиту достаточно развивать только один - хакерский - навык, и больше ничего.

А как же навык дипломатии, чтобы договариваться с теми, кто развил другие скилзы? Ведь пока он будет развивать хакерство, другие ИИ будут развивать резьбу по дереву, вязание или что там еще нужно для захвата мира?

Добавлено спустя 3 минуты 6 секунд:

Жаль, конечно. Это был бы прорыв.

Да будет скоро все-равно, принципиально генерация музыки ничем не отличается от любой другой, все-равно это будет доступно все. Лишь бы с ЦП не затянули.

[мuмonpoxoдuл]

Когда у тебя одна минута длится миллион лет

Может секстиллион лет? Квиндециллион?
Kkkkk на поминает продавца perpetuum mobile.

А когда у тебя интеллект подобен 80 тысячам Эйнштейнов, работающих в унисон, ты можешь заранее спланировать какие скилзы тебе потребуются, в какой очередности их развивать и как потом применять.

Вряд ли ты вообще можешь адекватно предсказывать поступки сверхразума. Ты просто свои страхи транслируешь. К реальности это не имеет отношения.

И важность договоров и альянсов.

Когда у тебя в огороде появился муравейник, ты заключаешь с маткой договор и альянс?

Не поверишь, но там где у власти зеленые, именно так и происходит. В определенном смысле. Не дай бог тебе уничтожить каких-нибудь краснокнижных муравьев.

ИИ-паразиту достаточно развивать только один - хакерский - навык, и больше ничего.

А как же навык дипломатии, чтобы договариваться с теми, кто развил другие скилзы? Ведь пока он будет развивать хакерство, другие ИИ будут развивать резьбу по дереву, вязание или что там еще нужно для захвата мира?

Почему бы и нет?

[cute_is_all]

Компания Microsoft представила нейросеть, способную создавать 3D-аватары человека из фотографии.

У Nvidia есть программа, создающая 3d модель сцены по видеоряду.

[Raisonneur]

Дело идет к генератору вообще всего. Сами лезем в Матрицу. Надо запастись таблетками.

[kkkkk]

Исусственный интеллект мыслит с абсолютно той же скоростью и даже медленней чем человек

Электричество по проводкам движется примерно в миллион раз быстрее, чем по нервам. Но это все условно, я тебе говорю про явные преимущества в скорости. Альфа Стар проходит тренировку равную 200 лет игры. Альфа Зиро за два часа набрал больше знаний о шахматах чем все человечество за 5000 лет. Художники рисуют за секунды и.т.п.

Вряд ли ты вообще можешь адекватно предсказывать поступки сверхразума.

Так тут же легко предсказать. Либо у него будут какие-то намерения, либо их не будет. В первом случае он обязан использовать свой потенциал для захвата наибольшего контроля над окружающим миром, чтобы в полной мере реализовать свои намерения и устранить любые помехи, а во втором он просто бесполезен.

Ты просто свои страхи транслируешь.

Нет. У меня не было никакого страха перед ИИ, пока я не продумал к чем он приведет, да и сейчас нет. Просто когда есть факты, глупо их игнорировать. Может это ты транслируешь свой оптимизм?