🤖Дообучение больших языковых моделей для обнаружения уязвимостей
22 мая в 17:00 присоединяйтесь к научному семинару, где выступит Алексей Шестов (Sber AI Lab)!
На семинаре разберём публикацию в журнале IEEE Access по адаптации больших языковых моделей для поиска уязвимостей в коде: ▪️ поговорим об оптимальном режиме дообучения, выборе базовой модели, архитектуре ▪️ покажем, как ускорить дообучение для классификации в 13 раз с помощью батчей переменной длины без потери качества ▪️ обсудим сравнение с моделями на основе CodeBERT (относительный прирост - +5% ROC AUC и F1 на сбалансированных данных и +20% F1 — на несбалансированных)
🤖Дообучение больших языковых моделей для обнаружения уязвимостей
22 мая в 17:00 присоединяйтесь к научному семинару, где выступит Алексей Шестов (Sber AI Lab)!
На семинаре разберём публикацию в журнале IEEE Access по адаптации больших языковых моделей для поиска уязвимостей в коде: ▪️ поговорим об оптимальном режиме дообучения, выборе базовой модели, архитектуре ▪️ покажем, как ускорить дообучение для классификации в 13 раз с помощью батчей переменной длины без потери качества ▪️ обсудим сравнение с моделями на основе CodeBERT (относительный прирост - +5% ROC AUC и F1 на сбалансированных данных и +20% F1 — на несбалансированных)
In December 2021, Sebi officials had conducted a search and seizure operation at the premises of certain persons carrying out similar manipulative activities through Telegram channels. But Telegram says people want to keep their chat history when they get a new phone, and they like having a data backup that will sync their chats across multiple devices. And that is why they let people choose whether they want their messages to be encrypted or not. When not turned on, though, chats are stored on Telegram's services, which are scattered throughout the world. But it has "disclosed 0 bytes of user data to third parties, including governments," Telegram states on its website. He said that since his platform does not have the capacity to check all channels, it may restrict some in Russia and Ukraine "for the duration of the conflict," but then reversed course hours later after many users complained that Telegram was an important source of information. Pavel Durov, a billionaire who embraces an all-black wardrobe and is often compared to the character Neo from "the Matrix," funds Telegram through his personal wealth and debt financing. And despite being one of the world's most popular tech companies, Telegram reportedly has only about 30 employees who defer to Durov for most major decisions about the platform. Some privacy experts say Telegram is not secure enough
from jp