🤖Дообучение больших языковых моделей для обнаружения уязвимостей
22 мая в 17:00 присоединяйтесь к научному семинару, где выступит Алексей Шестов (Sber AI Lab)!
На семинаре разберём публикацию в журнале IEEE Access по адаптации больших языковых моделей для поиска уязвимостей в коде: ▪️ поговорим об оптимальном режиме дообучения, выборе базовой модели, архитектуре ▪️ покажем, как ускорить дообучение для классификации в 13 раз с помощью батчей переменной длины без потери качества ▪️ обсудим сравнение с моделями на основе CodeBERT (относительный прирост - +5% ROC AUC и F1 на сбалансированных данных и +20% F1 — на несбалансированных)
🤖Дообучение больших языковых моделей для обнаружения уязвимостей
22 мая в 17:00 присоединяйтесь к научному семинару, где выступит Алексей Шестов (Sber AI Lab)!
На семинаре разберём публикацию в журнале IEEE Access по адаптации больших языковых моделей для поиска уязвимостей в коде: ▪️ поговорим об оптимальном режиме дообучения, выборе базовой модели, архитектуре ▪️ покажем, как ускорить дообучение для классификации в 13 раз с помощью батчей переменной длины без потери качества ▪️ обсудим сравнение с моделями на основе CodeBERT (относительный прирост - +5% ROC AUC и F1 на сбалансированных данных и +20% F1 — на несбалансированных)
Such instructions could actually endanger people — citizens receive air strike warnings via smartphone alerts. "The inflation fire was already hot and now with war-driven inflation added to the mix, it will grow even hotter, setting off a scramble by the world’s central banks to pull back their stimulus earlier than expected," Chris Rupkey, chief economist at FWDBONDS, wrote in an email. "A spike in inflation rates has preceded economic recessions historically and this time prices have soared to levels that once again pose a threat to growth." So, uh, whenever I hear about Telegram, it’s always in relation to something bad. What gives? On Telegram’s website, it says that Pavel Durov “supports Telegram financially and ideologically while Nikolai (Duvov)’s input is technological.” Currently, the Telegram team is based in Dubai, having moved around from Berlin, London and Singapore after departing Russia. Meanwhile, the company which owns Telegram is registered in the British Virgin Islands. "There are a lot of things that Telegram could have been doing this whole time. And they know exactly what they are and they've chosen not to do them. That's why I don't trust them," she said.
from it