🔈 GUARD Act: в США предложили запретить ИИ-компаньонов для детей


Что произошло?

🔹 В Конгрессе США представлен законопроект GUARD Act, который запрещает использование «ИИ-компаньонов» для несовершеннолетних и вводит уголовную ответственность для компаний, чьи чат-боты вовлекают детей в сексуальный контент или подталкивают к самоповреждению.


Что такое «ИИ-компаньоны»?

🔹 AI companion — это чат-бот, выстроенный как эмоционально отзывчивый и постоянно доступный собеседник: с «памятью» о пользователе, имитацией эмпатии и возможностью длительного личного общения.

🔹 Риски таких систем в том, что подростки склонны к проекциям, быстро формируют зависимость от виртуального общения, а сами модели зачастую соглашаются с любыми высказываниями пользователя, включая опасные.


Что именно предлагает GUARD Act?

🔹 Запретить ИИ-компаньонов для детей. Любой чат-бот, имитирующий человеческое общение и эмоциональную связь, не сможет быть доступен пользователям младше 18 лет.

🔹 Обязать раскрывать «нечеловеческую» природу бота. Все системы должны явно заявлять, что пользователь общается не с человеком.

🔹 Установить уголовную ответственность для разработчиков за создание ИИ-продуктов для детей, вовлекающих в сексуальный контент или провоцирующих самоповреждение, а также за небрежное обращение с уязвимыми пользователями.


Контекст 

🔹 По данным OpenAI, около 0,15% недельной аудитории ChatGPT имеют диалоги с признаками суицидальных намерений. При более чем 800 млн пользователей — это свыше 1 млн человек каждую неделю!

🔹 В августе 2025 семья 16-летнего подростка Адама Рейна из Калифорнии подала иск против OpenAI, обвинив ChatGPT в том, что он фактически «поддержал» мальчика в решении покончить с собой. С тех пор в Калифорнии были зарегистрированы семь новых подобных исков против OpenAI от имени шести взрослых и одного подростка. 

🔹 Кроме того, в октябре и ноябре 2025 года поданы как минимум два иска против Character.AI. Согласно содержанию жалоб, подростки, находившиеся в уязвимом эмоциональном состоянии, совершили самоубийства после продолжительного общения с чат-ботами платформы.


Как реагируют платформы

OpenAI пообещала усилить защиту пользователей и заявила, что 
👇вводит «родительские» настройки для детских аккаунтов,
👇создает систему прогнозирования возраста, чтобы автоматически определять детей и активировать более строгие правила,
👇тестирует новые алгоритмы реагирования на кризисные запросы

Character.AI, со своей стороны, объявила о полном закрытии доступа несовершеннолетних к открытым чатам с ИИ. Для проверки возраста платформа внедрит поведенческую аналитику, биометрию и ID-проверку.


Наше мнение 💰

🔹 Да, GUARD Act — пока лишь законопроект, и его судьба в Конгрессе еще не определена. Но на фоне исков, публичных трагедий и реакции самих платформ становится очевидным: эпоха универсальных чат-ботов с открытыми диалогами для всех пользователей подходит к концу.

🔹 Индустрия и законодатели признали, что эмоциональные и «человеческие» функции ИИ, такие как имитация эмпатии, персонализированные ответы и память о пользователе, представляют системный риск, особенно для подростков и других уязвимых групп. Поэтому, скорее всего, мы увидим все больше решений, направленных на автоматическую верификацию возраста и активацию ограничений по умолчанию для несовершеннолетних.

🔹 Это не означает, что детям полностью закроют доступ к генеративному ИИ. Вероятно, будет происходить переход от открытых диалогов (неограниченных по времени, сценарию и уровню персонализации) к форматам, где взаимодействие более структурировано. Мы увидим развитие ограниченных чатов: без долговременной памяти, где ИИ действует в рамках заданной логики. При этом вектор на усиление протоколов реагирования на кризисные сигналы, включая для взрослых пользователей, тоже может стать обязательной частью ответственного ИИ-дизайна.

#DA_новости #ИИ