group-telegram.com/ASGasparyan/69993
Create:
Last Update:
Last Update:
FireTail обнаружил уязвимость в ИИ: скрытые команды меняют смысл запросов
Исследователи компании FireTail выявили уязвимость в нескольких крупных системах искусственного интеллекта, связанную с техникой «ASCII-smuggling» – скрытым внедрением управляющих символов в текст. Эти невидимые символы позволяют добавлять в запросы к ИИ дополнительные инструкции, которые не отображаются пользователю, но воспринимаются моделью как команды. «…» Выявление такой уязвимости – хорошее дело. Тем более, что многие большие языковые модели, такие, в частности, как Gemini или DeepSeek, попадают в опасную зону. Осталось исправить ошибку, и дело с концом. В конце концов, любую систему характеризует не столько просчеты, сколько реакция на них, способность их устранить.
Хакеры атакуют компании через «умные» гаджеты сотрудников
Рост атак через бытовые «умные» устройства показывает, насколько размывается граница между личной и корпоративной безопасностью. Сегодня одно и то же устройство может быть и точкой входа для злоумышленников, и инструментом сбора пользовательских данных для маркетинговых систем. Современные гаджеты и приложения собирают гораздо больше, чем кажется. Телеметрия, фоновые запросы, аналитические модули – все это формирует детализированные профили пользователей и сотрудников.
ИИ прикарманит триллион человеческих рублей
В Вышке подсчитали, что в ближайшие пять лет авторы и другие правообладатели потеряют более 1 трлн рублей. Причин несколько, но основная — в росте популярности использования генеративного контента среди заказчиков и работодателей. «…» Я уже не раз говорил, что развитие ИИ нельзя остановить — технология станет основой всего, к ней нужно приспосабливаться. Чтобы не сетовать на «машины отняли у меня хлеб», пора вливаться и начинать применять его в своей работе. Правда, теперь еще и кодинг стал машине по силам — нам даже уметь программировать не нужно. А качественный авторский контент будет и дальше цениться — особенно в условиях, когда рынок переполнится «безликими» ИИ-генерациями.
Сегодня Роскомнадзор объяснил сбои в работе WhatsApp и Telegram на юге России
➡️
С юридической точки зрения это может рассматриваться как не просто техническая мера, а реализация обязанностей государства по защите конституционных ценностей — безопасности личности, общества и страны. Российское законодательство напрямую предусматривает возможность ограничивать ресурсы, если они используются для распространения экстремистских материалов, фейков или вовлечения граждан, в том числе несовершеннолетних, в противоправные действия.
➡️
Мера
вызвала
бурную реакцию, однако она имеет под собой серьёзные основания. В последнее время именно через Telegram и WhatsApp активно распространялись призывы к массовым беспорядкам, экстремистские материалы и фейки. Особенно тревожит вовлечение несовершеннолетних — злоумышленники продолжают использовать анонимные платформы для манипуляций и втягивания детей в противоправные действия.
#ОС_Минцифры #тренды