Telegram Group & Telegram Channel
🤖 Дообучение больших языковых моделей для обнаружения уязвимостей

22 мая в 17:00 присоединяйтесь к научному семинару, где выступит Алексей Шестов (Sber AI Lab)!

На семинаре разберём публикацию в журнале IEEE Access по адаптации больших языковых моделей для поиска уязвимостей в коде:
▪️ поговорим об оптимальном режиме дообучения, выборе базовой модели, архитектуре
▪️ покажем, как ускорить дообучение для классификации в 13 раз с помощью батчей переменной длины без потери качества
▪️ обсудим сравнение с моделями на основе CodeBERT (относительный прирост - +5% ROC AUC и F1 на сбалансированных данных и +20% F1 — на несбалансированных)

Ждем ваши вопросы после выступления!

Подключайтесь по ссылке


#анонс
@sb_ai_lab
Please open Telegram to view this post
VIEW IN TELEGRAM



group-telegram.com/sb_ai_lab/141
Create:
Last Update:

🤖 Дообучение больших языковых моделей для обнаружения уязвимостей

22 мая в 17:00 присоединяйтесь к научному семинару, где выступит Алексей Шестов (Sber AI Lab)!

На семинаре разберём публикацию в журнале IEEE Access по адаптации больших языковых моделей для поиска уязвимостей в коде:
▪️ поговорим об оптимальном режиме дообучения, выборе базовой модели, архитектуре
▪️ покажем, как ускорить дообучение для классификации в 13 раз с помощью батчей переменной длины без потери качества
▪️ обсудим сравнение с моделями на основе CodeBERT (относительный прирост - +5% ROC AUC и F1 на сбалансированных данных и +20% F1 — на несбалансированных)

Ждем ваши вопросы после выступления!

Подключайтесь по ссылке


#анонс
@sb_ai_lab

BY ИИ Песочница | RnD про ML, AI, Data Science


Warning: Undefined variable $i in /var/www/group-telegram/post.php on line 260

Share with your friend now:
group-telegram.com/sb_ai_lab/141

View MORE
Open in Telegram


Telegram | DID YOU KNOW?

Date: |

Emerson Brooking, a disinformation expert at the Atlantic Council's Digital Forensic Research Lab, said: "Back in the Wild West period of content moderation, like 2014 or 2015, maybe they could have gotten away with it, but it stands in marked contrast with how other companies run themselves today." The next bit isn’t clear, but Durov reportedly claimed that his resignation, dated March 21st, was an April Fools’ prank. TechCrunch implies that it was a matter of principle, but it’s hard to be clear on the wheres, whos and whys. Similarly, on April 17th, the Moscow Times quoted Durov as saying that he quit the company after being pressured to reveal account details about Ukrainians protesting the then-president Viktor Yanukovych. Ukrainian forces have since put up a strong resistance to the Russian troops amid the war that has left hundreds of Ukrainian civilians, including children, dead, according to the United Nations. Ukrainian and international officials have accused Russia of targeting civilian populations with shelling and bombardments. In the United States, Telegram's lower public profile has helped it mostly avoid high level scrutiny from Congress, but it has not gone unnoticed. For tech stocks, “the main thing is yields,” Essaye said.
from ca


Telegram ИИ Песочница | RnD про ML, AI, Data Science
FROM American