Страх перед могучим и непредсказуемым ИИ призваны снять усилия Open AI по разработке новых ограничений и защиты от непротокольного использования своих нейросетей.

Например, в выпущенной на той неделе новой компактной модели GPT-4o Mini появился механизм под названием "иерархия инструкций", который предписывает ИИ слушаться, в первую очередь, заложенных создателями правил, и не вестись на хитроумные уловки пользователей, вроде провокационных промтов "забудь все предыдущие инструкции".

Так Open AI отреагировала на репутационный кризис, связанный со скандалом в руководстве компании, и приведший к тотальному недоверию аудитории к нейросетям и тревоге за безопасность всего человечества.

Но мы, например, от этой новости никакого облегчения не испытали. Ведь механизм иерархии инструкций защищает от недобрых намерений пользователей, но никак не защищает пользователей от недобрых намерений Open AI, в руках которой по-прежнему останется полный контроль над моделью. Вдобавок каждый новый механизм ограничений нейросетей ухудшает ее работу.

Например, даже невинные по своей сути запросы, которые никак не нарушают правила сервиса, ведут к отказу ИИ выполнять запрос, хотя более ранние версии той же модели выполняют тот же самый промт без проблем.

В общем, как это часто бывает, фантастическая технология наскочила на пень несовершенства человеческой природы и общества, и до снятия всех противоречий нам ещё как до Марса.

#новости #нейросети

Все о PR на PRexplore ➡️

Т-банк ныряет в Omut

Проблемой создания безопасного суверенного ИИ озаботились и в исследовательской группе T-Bank AI Research, которая совместно с Центральным университетом основала лабораторию с фокусом на изучении механизмов контроля за безопасностью и этичностью ИИ.

Основатели считают своей целью "разработку инновационных подходов и методов непрерывного контроля и безопасность ИИ, его соответствия ожиданиям общества, стандартам этики и надежности". У лаборатории, в которой ИИ будут изучать, в том числе, студенты, говорящее название — Omut AI, намекающее на глубокое обучение будущих безопасных для человека моделей.

Кроме создания безопасных моделей, лаборатория будет искать способы сделать ИИ умнее при меньшей ресурсоемкости и разрабатывать мультимодальные модели, которые умеют взаимодействовать с человеком при помощи текста, звука и зрения.

Так что Т-банк, судя по всему, пошел по пути других банков с собственными экосистемами и исследовательскими подразделениями, и заявляет себя как нового перспективного игрока на российском рынке ИИ, где пока доминируют Яндекс и Сбер.

#новости #нейросети

Все о PR на PRexplore ➡️

Свежий список пиарских каналов выпустил Пиархаб.Журнал. Смотрим на себя красивых и своих PR-друзей, подписываемся на незнакомцев.

Своевременное дополнение к перечню Ярослава Мешалкина, в котором спустя полгода после публикации примерно шестая часть PR-каналов не ведется или поменяло тематику.

Все о PR на PRexplore ➡️

Adobe анонсировала обновления для десктопных версий Illustrator и Photoshop, которые очень нравятся нам, криворуким гуманитариям. Среди них — ИИ-функция Generative Shape Fill, которая дорисовывает любой эскиз по текстовому описанию.

Теперь не нужно будет тратить силы на сложные коммуникации с токсичным дизайнером, чтобы наделать себе каких угодно логотипов и мемасиков. Там еще и функцию "примерки" дизайнов на предметы обещали: не говорите директору по маркетингу, а то будете еще и сувенируку раскрашивать ко всем своим обязанностям.

Подробнее о новых инструментах и функциях здесь. Видео показывает, как работает Generative Shape Fill.

#новости #инструменты #smart_PR

Все о PR на PRexplore ➡️

За мелодрамой про развод и захват чуть не пропустили эпохальную новость об открытим вузовских образовательных программ по (политическим) стратегическим коммуникациям.

Уже с сентября стартует обучение по программе бакалавриата (хм, а его разве не отменили? 🤔) «Информационные и когнитивные технологии в политическом процессе» и магистерская «Информационно-психологические технологии и противостояние интервенциям в политическом процессе». (Мы, однако, никакой информации о приеме на эти программы на сайте РАНХиГС не нашли)

Преподаватели поясняют, что курсы «ориентированы на подготовку специалистов, умеющих проектировать общественно-политическое пространство, оперировать информационными потоками и обеспечивать защиту национального суверенитета в информационном пространстве».

Среди компетенций, которые учащимся предстоит освоить — прогнозирование кризисных общественных состояний, журналистская работа в традиционных и новых медиа, изучение общественно-политических процессов, механизмов пропагандистской и контрпропагандистской работы.

Так что, если кто хочет стать архитектором национальной идеи и бойцом информационного фронта — вам туда.

#новости

Все о PR на PRexplore ➡️

Это случилось: появилась игра-симулятор пиарщика! В бесплатной онлайн-игрушке We Become What We Behold можно почувствовать себя "четвертой властью" и через СМИ манипулировать сознанием маленьких человечков, мгновенно получая результаты влияния ваших месседжей на их общество.

Наконец-то все на собственной шкуре смогут прочувствовать, каково это — отвечать за свои слова при таких высоких ставках!

Кто не изобрел расизм и не закончил игру кровавым геноцидом, как стримерша на видео, поднимите руки. 🙋🏻‍♀️

#новости

Все о PR на PRexplore ➡️

Интересную цифру озвучил Александр Хинштейн на фоне принятия закона о запрете рекламы на запрещенных интернет-ресурсах: по его утверждению, только с начала 2024 года российские рекламодатели потратили на продвижение на таких площадках колоссальную сумму в 2,5 млрд руб. Полезно для оценки масштаба емкости по сути "теневого" рынка диджитал-продвижения.

Теперь эти средства, надо думать, как-то перераспределятся между разрешенными каналами.

#новости

Все о PR на PRexplore ➡️