Исследователи выявили уязвимости, позволяющие перехватывать управление ИИ-агентами без участия пользователя.
Об этом на конференции Black Hat USA сообщили специалисты Zenity Labs.
Они показали, что ChatGPT, Microsoft Copilot Studio, Salesforce Einstein, Google Gemini и Microsoft 365 Copilot можно взломать для кражи данных, изменения рабочих процессов, перенаправления коммуникаций и проведения атак от лица пользователя.
Microsoft, OpenAI, Salesforce и Google заявили об устранении обнаруженных проблем и усилении защиты, однако эксперты предупреждают, что быстрый рост внедрения ИИ-агентов в компаниях повышает риски и требует многоуровневой обороны, строгого контроля доступа и мониторинга их работы. T.ly/kmG4D
Исследователи выявили уязвимости, позволяющие перехватывать управление ИИ-агентами без участия пользователя.
Об этом на конференции Black Hat USA сообщили специалисты Zenity Labs.
Они показали, что ChatGPT, Microsoft Copilot Studio, Salesforce Einstein, Google Gemini и Microsoft 365 Copilot можно взломать для кражи данных, изменения рабочих процессов, перенаправления коммуникаций и проведения атак от лица пользователя.
Microsoft, OpenAI, Salesforce и Google заявили об устранении обнаруженных проблем и усилении защиты, однако эксперты предупреждают, что быстрый рост внедрения ИИ-агентов в компаниях повышает риски и требует многоуровневой обороны, строгого контроля доступа и мониторинга их работы. T.ly/kmG4D
The last couple days have exemplified that uncertainty. On Thursday, news emerged that talks in Turkey between the Russia and Ukraine yielded no positive result. But on Friday, Reuters reported that Russian President Vladimir Putin said there had been some “positive shifts” in talks between the two sides. Telegram has become more interventionist over time, and has steadily increased its efforts to shut down these accounts. But this has also meant that the company has also engaged with lawmakers more generally, although it maintains that it doesn’t do so willingly. For instance, in September 2021, Telegram reportedly blocked a chat bot in support of (Putin critic) Alexei Navalny during Russia’s most recent parliamentary elections. Pavel Durov was quoted at the time saying that the company was obliged to follow a “legitimate” law of the land. He added that as Apple and Google both follow the law, to violate it would give both platforms a reason to boot the messenger from its stores. "He has to start being more proactive and to find a real solution to this situation, not stay in standby without interfering. It's a very irresponsible position from the owner of Telegram," she said. As a result, the pandemic saw many newcomers to Telegram, including prominent anti-vaccine activists who used the app's hands-off approach to share false information on shots, a study from the Institute for Strategic Dialogue shows. Continuing its crackdown against entities allegedly involved in a front-running scam using messaging app Telegram, Sebi on Thursday carried out search and seizure operations at the premises of eight entities in multiple locations across the country.
from us
