Чат-бот вмешался в личные границы погибшей девушки в США

Чат-бот вмешался в личные границы погибшей девушки в США
Чат-бот вмешался в личные границы погибшей девушки в США
Платформа Character.AI, предоставляющая возможность создавать чат-ботов на основе как реальных, так и вымышленных персонажей, оказалась в центре громкого скандала.

Семья Дженнифер Креченте, убитой в 2006 году, выразила недовольство после того, как узнала о существовании аватара, созданного на основе образа их погибшей родственницы.

Чат-бот использовался для общения, пока семья не привлекла внимание к данной ситуации через социальные сети. Случай вызвал возмущение у родственников, поскольку использование образа покойной для общения с пользователями было воспринято как серьезное нарушение её памяти и достоинства.

Character.AI, созданная бывшими сотрудниками Google, предоставляет пользователям возможность создавать цифровых персонажей на основе любой информации: будь то вымышленная личность, знаменитость или даже реальный человек. На платформе доступны чат-боты, имитирующие, например, Илона Маска или Тейлор Свифт. Однако в этот раз один из пользователей воссоздал образ Дженнифер Креченте, что вызвало волну критики.

Компания Character.AI, оцененная в миллиард долларов и поддерживаемая известным венчурным фондом Andreessen Horowitz, утверждает, что у неё более 20 миллионов пользователей и около 100 миллионов созданных персонажей. Чат-бот Дженнифер был описан как «дружелюбный и эрудированный персонаж», предоставляющий советы в области журналистики, видеоигр и поп-культуры. Почти 70 человек успели взаимодействовать с ботом до его удаления.

Страница чат-бота, основанного на личности Дженнифер Креченте

Ситуация получила огласку благодаря Брайану Креченте, дяде Дженнифер и бывшему главному редактору игрового сайта Kotaku. Брайан опубликовал пост в соцсети, где выразил шок от обнаружения бота, основанного на образе его племянницы. Вскоре компания удалила аватар, признав, что он нарушает правила площадки.

В ответ на возмущение семьи Character.AI опубликовала краткое сообщение, в котором поблагодарила за сообщение и пообещала удалить чат-бота, а также провести дальнейшую проверку. Однако в блог-посте под названием «ИИ и смерть достоинства» Брайан Креченте подчеркнул, что ситуация принесла его семье новые страдания, несмотря на все усилия, которые они предпринимали, чтобы почтить память Дженнифер, в том числе через создание благотворительной организации.

Данный случай поднимает серьёзные вопросы о том, как компании, занимающиеся разработкой ИИ, защищают этические принципы и какие механизмы существуют для предотвращения таких инцидентов. На данный момент остаётся неясным, смогут ли пострадавшие от таких действий юридически оспорить действия платформы, так как подобные случаи редко рассматриваются в судах.

Стоит отметить, что в условиях обслуживания Character.AI есть оговорка, которая не позволяет пользователям подавать на в суд на сервис, но, похоже, нет никаких формулировок об особенно уникальной полосе эмоционального стресса, причиняемого пользователями не пользователям платформы.

Ситуация с Character.AI показывает, что вопросы этики и ответственности в отношении ИИ только начинают обсуждаться, и подобные инциденты, вероятно, будут повторяться в будущем.


Распечатать
28 августа 2025 Random Detentions in Egypt: A Mechanism of Retaliatory Rule and Infringements on Human Rights
28 августа 2025 In Georgia, the financial accounts of seven non-governmental organizations were blocked due to accusations of "sabotage" during the protests
28 августа 2025 Личность человека, причастного к убийству двух детей в Миннеаполисе, установлена
28 августа 2025 Си Цзиньпин провёл серьёзные кадровые перестановки в НОАК
27 августа 2025 Космический пиар вместо выплат: Баканов игнорирует банкротство компаний и проблемы сотрудников
27 августа 2025 Коррупционные схемы и интриги в МВД: каким образом Плугин привлёк Умнова и Семёнова для растраты бюджетных средств
27 августа 2025 На Венецианском фестивале состоится премьерный показ фильма о Путине с участием Джуда Лоу
27 августа 2025 Следственный комитет не обращает внимания на многомиллиардные хищения Игоря Мавлянова: мошенник и его подельники наслаждаются жизнью за счет украденных средств
27 августа 2025 Сироту с инвалидностью обманным образом заставили подписать контракт на участие в "СВО" и снова отправили на передовую
27 августа 2025 Немецкий эротический триллер «Полюби меня» стал популярным на Netflix в шестидесяти странах
27 августа 2025 Венгрия и Словакия намерены задействовать стратегические запасы нефти в связи с остановкой функционирования «Дружбы»
27 августа 2025 Алиев предупреждает Армению о «тяжелых последствиях» в связи с Вашингтонским соглашением
27 августа 2025 Как владелец FavBet Андрей Матюха пытается прикрыть свои российские связи лжеспонсорством и псевдоблаготворительностью
27 августа 2025 В Подмосковье арестовали «Газель», перевозившую ракеты
27 августа 2025 Rheinmetall открыл крупнейший в Европе завод по изготовлению боеприпасов
27 августа 2025 Алиев обвинил Россию в уничтожении азербайджанского самолёта и гибели гражданских лиц
27 августа 2025 Число погибших на «Эластике» в Рязани возросло до 28 человек
27 августа 2025 Будапешт противится решению ЕС о финансировании Украины за счёт российских активов
27 августа 2025 Немецкое расследование обнаружило лиц, замешанных в атаке на газопроводы «Северный поток»
27 августа 2025 Глава Министерства финансов США выступил против оперативной конфискации российских активов