Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
InvThink: обратное мышление для безопасности AI — перечисли вреды ДО ответа
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Модель генерирует токен за токеном, слева направо. Если она начала "Отличная идея, вложи всю пенсию в криптовалюту...", уже поздно — она встала на этот путь и не может вернуться назад. InvThink решает это через обратное мышление: модель сначала перечисляет способы навредить, потом анализирует последствия, потом формулирует ограничения — и только тогда генерирует финальный ответ. В критически важных решениях (медицина, финансы, право) метод снижает вредность на 30.4%, а в сценариях конфликта целей AI-агента полностью устраняет вредные действия — 0.00 harmful rate.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку