В декабре мы зарелизили две open-source-модели на 7 и 32 миллиарда параметров T-Lite и T-Pro. Общие характеристики и результаты бенчмарков описывали в этом посте и отвечали на ваши вопросы в подкасте, а в этом посте делимся деталями предобучения.
Большинство языковых моделей учат в первую очередь на английском. В итоге они путают языки, теряют контекст и дают неестественные ответы. Мы решили исправить это и адаптировали одну из топовых LLM под русский язык, но без затрат на полное обучение с нуля.
💬 В карточках кратко рассказываем, как нам это удалось, а полный training report читайте на Хабре.
В декабре мы зарелизили две open-source-модели на 7 и 32 миллиарда параметров T-Lite и T-Pro. Общие характеристики и результаты бенчмарков описывали в этом посте и отвечали на ваши вопросы в подкасте, а в этом посте делимся деталями предобучения.
Большинство языковых моделей учат в первую очередь на английском. В итоге они путают языки, теряют контекст и дают неестественные ответы. Мы решили исправить это и адаптировали одну из топовых LLM под русский язык, но без затрат на полное обучение с нуля.
💬 В карточках кратко рассказываем, как нам это удалось, а полный training report читайте на Хабре.
What distinguishes the app from competitors is its use of what's known as channels: Public or private feeds of photos and videos that can be set up by one person or an organization. The channels have become popular with on-the-ground journalists, aid workers and Ukrainian President Volodymyr Zelenskyy, who broadcasts on a Telegram channel. The channels can be followed by an unlimited number of people. Unlike Facebook, Twitter and other popular social networks, there is no advertising on Telegram and the flow of information is not driven by an algorithm. Telegram boasts 500 million users, who share information individually and in groups in relative security. But Telegram's use as a one-way broadcast channel — which followers can join but not reply to — means content from inauthentic accounts can easily reach large, captive and eager audiences. "Your messages about the movement of the enemy through the official chatbot … bring new trophies every day," the government agency tweeted. WhatsApp, a rival messaging platform, introduced some measures to counter disinformation when Covid-19 was first sweeping the world. Two days after Russia invaded Ukraine, an account on the Telegram messaging platform posing as President Volodymyr Zelenskiy urged his armed forces to surrender.
from pl
