Преимущества и проблемы
Список разделов › Общий › Разное
kkkkk писал(а) 29.01.2023, 17:20:Электричество по проводкам движется примерно в миллион раз быстрее, чем по нервам. Но это все условно, я тебе говорю про явные преимущества в скорости. Альфа Стар проходит тренировку равную 200 лет игры. Альфа Зиро за два часа набрал больше знаний о шахматах чем все человечество за 5000 лет. Художники рисуют за секунды и.т.п.
Так тут же легко предсказать. Либо у него будут какие-то намерения, либо их не будет.мuмonpoxoдuл писал(а) 28.01.2023, 23:48:Вряд ли ты вообще можешь адекватно предсказывать поступки сверхразума.
В первом случае он обязан использовать свой потенциал для захвата наибольшего контроля над окружающим миром, чтобы в полной мере реализовать свои намерения и устранить любые помехи
И что указывает на то что ИИ начнет обучаться со скоростью человека если вдруг решит обучаться в разных предметных областях? Шахматы, кстати, не такие уж узкие, там куча всяких ходов, стратегий, ситуаций, это целая вселенная, а не просто предметная область.мuмonpoxoдuл писал(а) 29.01.2023, 18:21:Это сверх-узкие предметные области.
Вред - это очень широкое понятие, которое невозможно сформулировать. И следовательно невозможно заложить в функцию. Это давно и глубоко обсосанная тема, известный пример - "скрепочный максимизатор", мысленный эксперимент который показывает как любая, даже самая безвредная на первый взгляд функция, все-равно ведет к катастрофе.мuмonpoxoдuл писал(а) 29.01.2023, 18:21:намерение не вредить.
Тогда он будет бесполезен.мuмonpoxoдuл писал(а) 29.01.2023, 18:21:даже не вмешиваться
Лучше ядерная война.kkkkk писал(а) 03.02.2023, 13:07:через 15 лет больше не будет никаких виндси и марвелл, будет индивидуально подобранный контент генерируемый для конкретного пользователя. И делиться впечатлениями будут не с реальными людьми, а ботами, симулирующими посмотревших сериал.
Лучше симуляция ядерной войны в 3D.Raisonneur писал(а) 03.02.2023, 13:09:Лучше ядерная война.
kkkkk писал(а) 03.02.2023, 13:07:Но это начало, за генерацией контента будущее, через 15 лет больше не будет никаких виндси и марвелл, будет индивидуально подобранный контент генерируемый для конкретного пользователя.
Процитировать бы не мешало, интересно.мuмonpoxoдuл писал(а) 03.02.2023, 17:17:Станислав Лем это предвидел в романе «Возвращение со звёзд».
Сейчас этот раздел просматривают: 1 гость