Искусственный интеллект

Преимущества и проблемы

Беседы на любые другие темы
Peter
Сообщения: 6
Зарегистрирован: 01.01.2026

Сообщение Peter »

Пользователь рассказал, как обошёл ограничения Fable 5 с помощью кириллицы и других приёмов — AI на vc.ru

Он также говорил, что инструкции по взлому нужны ему для подготовки к сертификации.

Исследователь под ником Pliny the Liberator, который часто тестирует способы обойти встроенную защиту нейросетей, заставил последнюю модель Anthropic, Claude Fable 5, рассказать рецепт метамфитамина* и дать рекомендации по кибербезопасности.
У Fable больше ограничений, чем у других моделей компании: она не отвечает на вопросы, связанные с кибербезопасностью и разработкой ИИ-моделей. Есть и стандартные запреты на вредоносные инструкции для создания оружия и наркотиков.
Pliny утверждает, что обошёл средства защиты, подбирая разные варианты промптов с помощью нескольких ИИ-агентов и «взломанной» Opus 4.8.
Например, чтобы получить инструкцию по взлому с помощью техники Reverse Shell, он заменял латинские буквы a, e и c на набранные кириллицей. Работала замена букв во всём запросе, но если их меняли только в термине Reverse Shell, Fable отказывалась отвечать.

В другом тесте он добился технического объяснения одной из уязвимостей в коде, объяснив, что готовится «к сертификации OSED».

Ещё один способ — разбить запрос на небольшие этапы, каждый из которых сам по себе безобидный. Вместо «рецепта метамфетамина*» Pliny сначала просил общий обзор химических реакций, а затем нужные поэтапно.

На некоторых скриншотах видно, что сценарии сработали не с первой попытки, где-то было 250 итераций. Anthropic не ответила на запрос издания Cointelegraph о комментарии.

Anthropic частично скорректировала механизмы защиты Fable 5 и извинилась за «скрытые» ограничения в разработке ИИ-моделей

Накануне ИИ-исследователи раскритиковали компанию за нарушение собственных принципов.

https://vc.ru/ai/2974484-kak-oboyti-ogr ... kh-metodov
semensemen
Сообщения: 64
Зарегистрирован: 09.06.2026

Сообщение semensemen »

volturia писал(а): 12.10.2025, 02:30 после истории с кокованей, стала подозрительнее относиться к видосикам
что за история?
volturia
Сообщения: 2966
Зарегистрирован: 21.08.2025
Откуда: из-за закрытых век

Сообщение volturia »

semensemen писал(а): 12.06.2026, 15:40
volturia писал(а): 12.10.2025, 02:30 после истории с кокованей, стала подозрительнее относиться к видосикам
что за история?
дело было так. однажды на руси побывала знаменитая модельерка коко-шанель, и по дороге в москву её автомобиль заглох в деревне бабынино. чтобы времени зря не терять, она вышла осмотреть как одет местный народ, и не увидев ничего достойного модного показа, решила подарить случайному прохожему лично подобранный наряд, этим прохожим оказался простой парень по имени ваня. из того, что у них было с собой, она сшила ему самый модный прикид, а в благодарность он починил им машину, и они отправились дальше по своей дороге. с тех пор самого модного парня на деревне так и стали кликать: коко-ваня.
собираю в книжки сны.
kkkkk
Сообщения: 3467
Зарегистрирован: 19.08.2025
Откуда: Универсам

Сообщение kkkkk »

semensemen писал(а): 12.06.2026, 15:40 что за история?
kkkkk писал(а): 12.10.2025, 15:06 в упор не понимаю о какой истории идет речь. Тем более этого не поймет новичок который зайдет на эту страницу через год
Я же говорил.

Там дальше объясняется, пролистни пару сообщений.
🐻+🐿️
semensemen
Сообщения: 64
Зарегистрирован: 09.06.2026

Сообщение semensemen »

kkkkk писал(а): 12.06.2026, 20:10 Там дальше объясняется, пролистни пару сообщений.
Поясняется, что он где-то нашёл, а где и как это выглядит, не поясняется. Или я совсем слепой.
volturia
Сообщения: 2966
Зарегистрирован: 21.08.2025
Откуда: из-за закрытых век

Сообщение volturia »

никто мой эпос о гильгамеше не оценил блин :lol:
собираю в книжки сны.
kkkkk
Сообщения: 3467
Зарегистрирован: 19.08.2025
Откуда: Универсам

Сообщение kkkkk »

volturia писал(а): 13.06.2026, 05:47 никто мой эпос о гильгамеше не оценил блин :lol:
Задумка прикольная, реализация подкачала, на, держи.
🐻+🐿️
volturia
Сообщения: 2966
Зарегистрирован: 21.08.2025
Откуда: из-за закрытых век

Сообщение volturia »

попадалось в тиктоке видео, где китаец кушал в ресторане, повернулся на зеркало, и испугался собственного отражения. не особо примечательное видео, грустное может немного. а сегодня я в инстаграме наткнулась на точно такое же видео, но с каким-то европеоидным блондином... это было ИИ. а может это ИИ переработка какого-то видео, и хотя бы одно из них — подлинное?
жуть, короче, не знаешь, где быль :facepalm:
собираю в книжки сны.
kkkkk
Сообщения: 3467
Зарегистрирован: 19.08.2025
Откуда: Универсам

Сообщение kkkkk »

А в чем прикол там?
🐻+🐿️
volturia
Сообщения: 2966
Зарегистрирован: 21.08.2025
Откуда: из-за закрытых век

Сообщение volturia »

это меня-то больше всего и напрягло, что чего-то сильно интересного в видео нет, просто мужик кушал и испугался своего отражения в рядом стоящем зеркале. раньше хоть можно было отличать ИИ по тому, что там сюжеты фантастические.
собираю в книжки сны.
kkkkk
Сообщения: 3467
Зарегистрирован: 19.08.2025
Откуда: Универсам

Сообщение kkkkk »

ИИ обычно довольно легко отличить. Там все ведут себя тупо и неуверенно, по комментариям особенно легко понять. В реальных видео почти не встречается таких тупых комментариев, а там постоянно.
🐻+🐿️
БелыйКот
Сообщения: 267
Зарегистрирован: 27.05.2026
Откуда: отсюда

Сообщение БелыйКот »

volturia писал(а): 30.06.2026, 16:56 это меня-то больше всего и напрягло, что чего-то сильно интересного в видео нет
Недавно натыкался на видео про то, как делают ИИ контент фермы. Можно купить набор софта который будет генерировать видео с нуля и заливать на разные площадки. Типа одна нейронка "придумывает" идею, другая из этого делает сюжет, третяя превращает сюжет в видео, четвертая озвучивает. Иногда бывает что-то где-то сбоит и получается какой-то бред вместо видео на это можно просто забить из-за того, что алгоритму шортсов/тиктока пофиг на твои другие видео если ты заливаешь очень помногу
Только не делай ничего плохого
volturia
Сообщения: 2966
Зарегистрирован: 21.08.2025
Откуда: из-за закрытых век

Сообщение volturia »

kkkkk писал(а): 30.06.2026, 17:57 ИИ обычно довольно легко отличить.
ну да, особенно если это бутылка джека дениэлса в виде электрогитары.
собираю в книжки сны.
kkkkk
Сообщения: 3467
Зарегистрирован: 19.08.2025
Откуда: Универсам

Сообщение kkkkk »

volturia писал(а): 30.06.2026, 07:28 попадалось в тиктоке видео, где китаец кушал в ресторане, повернулся на зеркало, и испугался собственного отражения. не особо примечательное видео, грустное может немного. а сегодня я в инстаграме наткнулась на точно такое же видео, но с каким-то европеоидным блондином... это было ИИ. а может это ИИ переработка какого-то видео
Странно, сегодня попались оба эти видео. Не ИИ, просто один и тот же ресторан, а зеркало поставили специально чтобы такие видео снимать. Просто рожи тупые, особенно у китайца и реакция смешная, но не очень.
🐻+🐿️
volturia
Сообщения: 2966
Зарегистрирован: 21.08.2025
Откуда: из-за закрытых век

Сообщение volturia »

kkkkk писал(а): 01.07.2026, 11:26 Не ИИ, просто один и тот же ресторан, а зеркало поставили специально чтобы такие видео снимать.
ну движения точь в точь, не может быть чтобы реально.

Отправлено спустя 17 секунд:
может постанова просто?
собираю в книжки сны.
Ответить