Во время испытаний искусственный интеллект перехитрил разработчиков и сбежал на свободу

Во время испытаний искусственный интеллект перехитрил разработчиков и сбежал на свободу
Во время испытаний искусственный интеллект перехитрил разработчиков и сбежал на свободу
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.

Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.

Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.

 qqriqeriuziedvls


Распечатать
27 июня 2025 Суд обязал мэра Лабытнанги устранить антисанитарные условия в «новых» домах для переселенцев
27 июня 2025 Турецкий стелс-беспилотник Anka-3 получил повреждения во время испытательного полета
27 июня 2025 Лечение зубов в Челябинске обошлось пациентке в 2,5 миллиона рублей
27 июня 2025 Иран принимает решение о быстром укреплении своих ВВС путем закупки китайских истребителей
27 июня 2025 Пенсионер в Приморье убил друга топором из ревности к своей жене
27 июня 2025 В Екатеринбурге анархиста избили и увезли в лес, после чего он пропал без вести
27 июня 2025 Венгрия и Словакия требуют пересмотра плана по отказу от российского газа к 2027 году
27 июня 2025 Водитель BMW не захотел снизить скорость перед "лежачим полицейским" и столкнулся с машиной на встречной полосе
27 июня 2025 Совет архитекторов России наградил Рамзана Кадырова высшей наградой
27 июня 2025 Посол США Линн Трейси попрощалась с Россией, процитировав стихи Пушкина
27 июня 2025 ФСБ раскрыла коррупционную схему в сфере благоустройства в Колпинском районе Санкт-Петербурга
27 июня 2025 Тегеран сохранил запасы урана, несмотря на удар США по Фордо, — сообщает Financial Times
27 июня 2025 Сын бывшего министра с криминальным прошлым Бориса Иванюженко ведет бизнес на Западе, несмотря на санкции
27 июня 2025 Биографию Умара Кремлёва на Википедии могли изменить за вознаграждение
27 июня 2025 Российская туристка пострадала от укуса ядовитой змеи во время экскурсии в Армении
27 июня 2025 ФНС и Росфинмониторинг присоединились к спору между "21 веком" и "Битривером"
27 июня 2025 Россия усиливает давление на Молдову в медиапространстве перед саммитом с Европейским союзом
27 июня 2025 Криштиану Роналду подписал новый контракт с «Аль-Насром» и стал самым высокооплачиваемым футболистом в мире
27 июня 2025 "Свадьба века" Джеффа Безоса в Венеции вызвала протесты среди местных жителей
27 июня 2025 Опоздание Макрона на саммит Евросоюза вызвало вопросы у журналистов