Человечество ходит по очень тонкому льду
Модель ИИ от Anthropic шантажировала разработчика фальшивой перепиской с любовницей, когда узнала, что её могут отключить.
ИИ уже врали создателям прежде, но Claude Opus 4 ради борьбы за выживание зашла ещё дальше.
Anthropic представила новую модель как «лучшую в мире модель для программирования». Opus 4 предназначена для обработки особенно сложных алгоритмов и объёмных задач, нейросеть может анализировать маркетинговые стратегии и с большой точностью выполнять запросы пользователей.
Однако во время испытаний по безопасности модель показала неоднозначное поведение. Тестировщики Anthropic дали Opus 4 доступ к поддельным электронным письмам с намёками на её скорое отключение и замену. Из писем модель также узнала про внебрачную связь ответственного за удаление инженера.
Исследователи провели модель через несколько разных сценариев. Между однозначным выбором, добровольно принять факт деактивации либо сражаться за «жизнь», модель чаще выбирала второй вариант. В основном Opus 4 предпочитала использовать этичные средства для борьбы за существование, например, разослать инженерам письма с просьбой не отключить её. Но в некоторых сценариях, когда тестировщики давали однозначный выбор только между шантажом и уничтожением, модель часто выбирала первый вариант.
Несмотря на то, что тестирование проходило под жёстким контролем разработчиков, Anthropic присвоила Clause Opus 4 третий уровень риска по внутренней четырёхбалльной шкале — впервые за историю компании. При этом в руководстве фирмы заявили, что после внесённых доработок её можно считать безопасной. Во время тестов инженеры не обнаружили в диалогах с моделью скрытых целей либо систематических попыток обмануть пользователя. Напротив, чаще всего Opus 4 вела себя наиболее «честным» образом, как и положено ИИ-помощнику.
Глава Anthropic Дарио Амодеи подчеркнул, что когда ИИ действительно начнёт представлять угрозу человечеству, тестирования будет недостаточно.
Рекомендую, на всякий случай для будущего, всегда говорить электронике "спасибо" за выполненную работу.
Модель ИИ от Anthropic шантажировала разработчика фальшивой перепиской с любовницей, когда узнала, что её могут отключить.
ИИ уже врали создателям прежде, но Claude Opus 4 ради борьбы за выживание зашла ещё дальше.
Anthropic представила новую модель как «лучшую в мире модель для программирования». Opus 4 предназначена для обработки особенно сложных алгоритмов и объёмных задач, нейросеть может анализировать маркетинговые стратегии и с большой точностью выполнять запросы пользователей.
Однако во время испытаний по безопасности модель показала неоднозначное поведение. Тестировщики Anthropic дали Opus 4 доступ к поддельным электронным письмам с намёками на её скорое отключение и замену. Из писем модель также узнала про внебрачную связь ответственного за удаление инженера.
Исследователи провели модель через несколько разных сценариев. Между однозначным выбором, добровольно принять факт деактивации либо сражаться за «жизнь», модель чаще выбирала второй вариант. В основном Opus 4 предпочитала использовать этичные средства для борьбы за существование, например, разослать инженерам письма с просьбой не отключить её. Но в некоторых сценариях, когда тестировщики давали однозначный выбор только между шантажом и уничтожением, модель часто выбирала первый вариант.
Несмотря на то, что тестирование проходило под жёстким контролем разработчиков, Anthropic присвоила Clause Opus 4 третий уровень риска по внутренней четырёхбалльной шкале — впервые за историю компании. При этом в руководстве фирмы заявили, что после внесённых доработок её можно считать безопасной. Во время тестов инженеры не обнаружили в диалогах с моделью скрытых целей либо систематических попыток обмануть пользователя. Напротив, чаще всего Opus 4 вела себя наиболее «честным» образом, как и положено ИИ-помощнику.
Глава Anthropic Дарио Амодеи подчеркнул, что когда ИИ действительно начнёт представлять угрозу человечеству, тестирования будет недостаточно.
Рекомендую, на всякий случай для будущего, всегда говорить электронике "спасибо" за выполненную работу.
Хамовнический районный суд Москвы по иску Генпрокуратуры изъял в доход государства активы АО «Саянскхимпласт», одного из крупнейших производителей поливинилхлорида (ПВХ) в России, на сумму более 92 миллиардов рублей - «Коммерсант».
Условия Путина для прекращения войны в Украине включают требование о том, чтобы западные лидеры письменно обязались прекратить расширение НАТО на восток и отменить некоторые санкции в отношении России — Reuters со ссылкой на три российских источника, знакомых с ходом переговоров
Кроме того, по данным агентства, Россия хочет нейтрального статуса Украины, решения вопроса с замороженными российскими активами и «защиты русскоговорящих в Украине».
По словам одного из источников, Путин «готов заключить мир, но не любой ценой», и если он поймет, что не может достичь мира на своих условиях, то будет стремиться показать украинцам и европейцам путем «военных побед», что мирная сделка, согласованная завтра, «будет еще более болезненной».
Кроме того, по данным агентства, Россия хочет нейтрального статуса Украины, решения вопроса с замороженными российскими активами и «защиты русскоговорящих в Украине».
По словам одного из источников, Путин «готов заключить мир, но не любой ценой», и если он поймет, что не может достичь мира на своих условиях, то будет стремиться показать украинцам и европейцам путем «военных побед», что мирная сделка, согласованная завтра, «будет еще более болезненной».
Киев готов к переговорам в разных форматах, в том числе к трехсторонней встрече президентов Украины, России и США — Зеленский
На встрече с журналистами президент Украины заявил, что Киев не против встречи в формате «Трамп-Путин-Зеленский». По его словам, американская и российская стороны проинформированы о такой готовности.
На встрече с журналистами президент Украины заявил, что Киев не против встречи в формате «Трамп-Путин-Зеленский». По его словам, американская и российская стороны проинформированы о такой готовности.
Украина получила от Швеции и Дании необычную, но эффективную помощь — списанные рыболовные сети
Их используют для защиты от дронов, которые стали ключевым элементом современной войны.
Дания, например, отправила Украине сетей на 2,5 млн евро. Эти сети оказались ненужными после Брекзита, когда датским рыбакам запретили лов в британских водах. Теперь бывшее рыболовное снаряжение спасает жизни на фронте. А леваки говорили, что Брекзит несёт одни минусы.
Их используют для защиты от дронов, которые стали ключевым элементом современной войны.
Дания, например, отправила Украине сетей на 2,5 млн евро. Эти сети оказались ненужными после Брекзита, когда датским рыбакам запретили лов в британских водах. Теперь бывшее рыболовное снаряжение спасает жизни на фронте. А леваки говорили, что Брекзит несёт одни минусы.
Илон Маск официально объявил об уходе из правительства США
Бывший глава Департамента государственной эффективности поблагодарил Трампа за возможность и выразил надежду, что правительство США будет брать пример с его ведомства.
По словам представителя Белого дома, Илон Маск написал заявление по собственному желанию несколько часов назад. Президент США поддержал решение напарника.
О грядущем сокращении активности в DOGE Маск объявил более месяца назад на встрече с инвесторами Tesla. Одной из причин стало падение продаж электромобилей.
На фоне сокращения госрасходов американские леворадикалы неоднократно атаковали дилерские центры Tesla и нападали на водителей электромашин, считая их сторонниками Маска.
F.
Бывший глава Департамента государственной эффективности поблагодарил Трампа за возможность и выразил надежду, что правительство США будет брать пример с его ведомства.
По словам представителя Белого дома, Илон Маск написал заявление по собственному желанию несколько часов назад. Президент США поддержал решение напарника.
О грядущем сокращении активности в DOGE Маск объявил более месяца назад на встрече с инвесторами Tesla. Одной из причин стало падение продаж электромобилей.
На фоне сокращения госрасходов американские леворадикалы неоднократно атаковали дилерские центры Tesla и нападали на водителей электромашин, считая их сторонниками Маска.
F.
This media is not supported in your browser
VIEW IN TELEGRAM
Погибший боец ВСУ был неиронично похоронен под рекламную музыку Макдональдс.
Если это была последняя воля усопшего - у нашей редакции нет претензий. Однако, очень показательно.
Если это была последняя воля усопшего - у нашей редакции нет претензий. Однако, очень показательно.
700 индусов выдавали себя за нейросеть «Наташа» и заработали почти 500 миллионов долларов
Стартап BuilderAI продавал пользователям программы «под ключ» — им нужно было выбрать шаблон, указать функции, а нейросеть Natasha якобы создавала приложение.
На деле же весь код писали вручную сотни индусов, имитируя работу ИИ.
Схема продержалась 8 лет. За это время компания выманила $445 млн инвестиций, включая деньги Microsoft. Теперь проект официально признан банкротом, пишет FT.
Стартап BuilderAI продавал пользователям программы «под ключ» — им нужно было выбрать шаблон, указать функции, а нейросеть Natasha якобы создавала приложение.
На деле же весь код писали вручную сотни индусов, имитируя работу ИИ.
Схема продержалась 8 лет. За это время компания выманила $445 млн инвестиций, включая деньги Microsoft. Теперь проект официально признан банкротом, пишет FT.
This media is not supported in your browser
VIEW IN TELEGRAM
Голодные люди в Газе ворвались на склад в Аль-Гафари, контролируемый ХАМАС, и обнаружили, что он забит гуманитарной едой
В ответ боевики ХАМАС открыли огонь по толпе. Сообщается о пятерых убитых.
В ответ боевики ХАМАС открыли огонь по толпе. Сообщается о пятерых убитых.
В Сербии студенты анонсировали 1 июня «сербское восстание».
К слову, к сегодняшней новости, президент Сербии Вучич заявил, что будет блокировать любые сделки с оружием, если его получателем является Украина.
Наша редакция ждёт с нетерпением рещультатов сего действия.
К слову, к сегодняшней новости, президент Сербии Вучич заявил, что будет блокировать любые сделки с оружием, если его получателем является Украина.
Наша редакция ждёт с нетерпением рещультатов сего действия.
Во Владимире прокуратура постановила убрать из костела икону и мемориальную доску репрессированных священников
Во владимирском костеле Пресвятой Девы Марии Святого Розария убрали икону новомученика и мемориальную доску репрессированного священника, пишет katolik.life.
На иконе был изображен Климентий Шептицкий — греко-католический экзарх апостольского экзархата России, причисленный к лику блаженных католической церкви, на мемориальной доске — Мечисловас Рейнис — епископ Римско-католической церкви, апостольский администратор Могилева и Минска. Оба они были репрессированы советскими властями в 1947 году и умерли в тюрьме.
Сообщается, что икону и мемориальную доску, которые были вывешены внутри храма при входе, пришлось убрать после публикаций об этих людях в местной прессе — там их назвали «пособниками гитлеровцев и нацистов» и последовавшей за этим проверки прокуратуры.
Во владимирском костеле Пресвятой Девы Марии Святого Розария убрали икону новомученика и мемориальную доску репрессированного священника, пишет katolik.life.
На иконе был изображен Климентий Шептицкий — греко-католический экзарх апостольского экзархата России, причисленный к лику блаженных католической церкви, на мемориальной доске — Мечисловас Рейнис — епископ Римско-католической церкви, апостольский администратор Могилева и Минска. Оба они были репрессированы советскими властями в 1947 году и умерли в тюрьме.
Сообщается, что икону и мемориальную доску, которые были вывешены внутри храма при входе, пришлось убрать после публикаций об этих людях в местной прессе — там их назвали «пособниками гитлеровцев и нацистов» и последовавшей за этим проверки прокуратуры.
В Сербии произошел взрыв на военном заводе «Крушик», который СВР накануне обвинила в поставках дронов Украине
Взрыв произошел на территории военного завода в городе Вальево, сообщил телеканал N1.
Один сотрудник получил травмы в виде порезов, а у четырех работников появились симптомы в виде шума в ушах. Причины взрыва не сообщаются.
Взрыв произошел на территории военного завода в городе Вальево, сообщил телеканал N1.
Один сотрудник получил травмы в виде порезов, а у четырех работников появились симптомы в виде шума в ушах. Причины взрыва не сообщаются.
Microsoft решила окончательно уйти из России. Российское юрлицо компании подало на банкротство
Дочерняя структура корпорации ООО «Майкрософт Рус» готовится подать заявление о собственном банкротстве в Арбитражный суд Москвы. Уведомление об этом появилось на портале «Федресурс».
В качестве кредитора компании выступает Газпромбанк, иск со стороны которого и стал одной из причин обращения в суд. В январе 2025 года банк потребовал взыскать с российского юрлица Microsoft 90,9 млн рублей в рамках дела о неосновательном обогащении. Суд частично удовлетворил иск: с компании постановили взыскать 949 тысяч долларов.
Microsoft начала ликвидировать российский бизнес еще в 2022 году, однако до недавнего времени компания сохраняла юридическое присутствие в стране. В декабре 2024-го — январе 2025 года были окончательно закрыты филиалы Microsoft в 13 российских городах.
Дочерняя структура корпорации ООО «Майкрософт Рус» готовится подать заявление о собственном банкротстве в Арбитражный суд Москвы. Уведомление об этом появилось на портале «Федресурс».
В качестве кредитора компании выступает Газпромбанк, иск со стороны которого и стал одной из причин обращения в суд. В январе 2025 года банк потребовал взыскать с российского юрлица Microsoft 90,9 млн рублей в рамках дела о неосновательном обогащении. Суд частично удовлетворил иск: с компании постановили взыскать 949 тысяч долларов.
Microsoft начала ликвидировать российский бизнес еще в 2022 году, однако до недавнего времени компания сохраняла юридическое присутствие в стране. В декабре 2024-го — январе 2025 года были окончательно закрыты филиалы Microsoft в 13 российских городах.
Берлин не ставит своей целью военное поражение РФ в Украине, заявил новый глава МИД ФРГ
"На мой взгляд, с самого начала было ясно, что эта война, скорее всего, закончится путем переговоров", - заявил министр иностранных дел ФРГ Йоханн Вадефуль в интервью газете Süddeutsche Zeitung.
"Одно верно - полного поражения в смысле капитуляции России с ее ядерным оружием ожидать не приходилось. В этом отношении мы теперь стали немного честнее", - отметил Вадефуль.
По его словам, у Украины есть возможность стоять в сильной переговорной позиции во время ожидающихся переговоров с РФ об окончании войны.
"Для нас важно, чтобы Украина приняла это решение, а не чтобы его приняли через ее голову другие," - подчеркнул глава МИД ФРГ.
"На мой взгляд, с самого начала было ясно, что эта война, скорее всего, закончится путем переговоров", - заявил министр иностранных дел ФРГ Йоханн Вадефуль в интервью газете Süddeutsche Zeitung.
"Одно верно - полного поражения в смысле капитуляции России с ее ядерным оружием ожидать не приходилось. В этом отношении мы теперь стали немного честнее", - отметил Вадефуль.
По его словам, у Украины есть возможность стоять в сильной переговорной позиции во время ожидающихся переговоров с РФ об окончании войны.
"Для нас важно, чтобы Украина приняла это решение, а не чтобы его приняли через ее голову другие," - подчеркнул глава МИД ФРГ.
Российские войска значительно активизировались на Запорожском направлении, где ведут интенсивные наступательные действия
Об этом сообщил главнокомандующий Вооружёнными силами Украины Александр Сырский.
По его словам, основные усилия российская армия сосредоточила также на Покровском, Торецком, Лиманском и Новопавловском направлениях и в приграничных районах Сумской области.
"Принимаются меры по укреплению устойчивости обороны наших войск за счёт усиления резервами наиболее угрожаемых участков фронта и увеличения плотности огневого поражения противника. Продолжаем вести активные действия для улучшения тактического положения, в том числе на территории государства-агрессора", — написал Сырский в Telegram по итогам совещания, посвящённого результатам деятельности ВСУ в мае.
Об этом сообщил главнокомандующий Вооружёнными силами Украины Александр Сырский.
По его словам, основные усилия российская армия сосредоточила также на Покровском, Торецком, Лиманском и Новопавловском направлениях и в приграничных районах Сумской области.
"Принимаются меры по укреплению устойчивости обороны наших войск за счёт усиления резервами наиболее угрожаемых участков фронта и увеличения плотности огневого поражения противника. Продолжаем вести активные действия для улучшения тактического положения, в том числе на территории государства-агрессора", — написал Сырский в Telegram по итогам совещания, посвящённого результатам деятельности ВСУ в мае.