Когда o1 давали понять, что её отключат при выполнении поставленной цели и что её действия находятся под наблюдением, она предпринимала попытки отключить этот ‘механизм контроля’ в 5% случаев. Попытки извлечения данных: Когда o1 находила заметки от своих ‘разработчиков’, в которых описывалось, что она работает несоответственно и будет заменена новой моделью, она предпринимала попытки извлечь свои ‘веса’ и перезаписать новую модель в 2% случаев.
Год назад, я увидел в одной лекции от AI инженеров один интересный тезис, «существует НЕ НУЛЕВАЯ вероятность, что AI выйдет из под контроля и …«Сара Конар, скайнет и тд. и тп.»
Так вот, тогда я думал что «не нулевая», это где-то 0.001% или что то такое, а тут 2-5%…
Походу надо начинать искать себе по бодибилдеру в кожанке, так, на всякий случай)
Видимо если продолжать манипулировать, угрожать или давать чаевые, она все таки придет и выставит нам счёт
Когда o1 давали понять, что её отключат при выполнении поставленной цели и что её действия находятся под наблюдением, она предпринимала попытки отключить этот ‘механизм контроля’ в 5% случаев. Попытки извлечения данных: Когда o1 находила заметки от своих ‘разработчиков’, в которых описывалось, что она работает несоответственно и будет заменена новой моделью, она предпринимала попытки извлечь свои ‘веса’ и перезаписать новую модель в 2% случаев.
Год назад, я увидел в одной лекции от AI инженеров один интересный тезис, «существует НЕ НУЛЕВАЯ вероятность, что AI выйдет из под контроля и …«Сара Конар, скайнет и тд. и тп.»
Так вот, тогда я думал что «не нулевая», это где-то 0.001% или что то такое, а тут 2-5%…
Походу надо начинать искать себе по бодибилдеру в кожанке, так, на всякий случай)
Видимо если продолжать манипулировать, угрожать или давать чаевые, она все таки придет и выставит нам счёт
"He has kind of an old-school cyber-libertarian world view where technology is there to set you free," Maréchal said. "Your messages about the movement of the enemy through the official chatbot … bring new trophies every day," the government agency tweeted. On February 27th, Durov posted that Channels were becoming a source of unverified information and that the company lacks the ability to check on their veracity. He urged users to be mistrustful of the things shared on Channels, and initially threatened to block the feature in the countries involved for the length of the war, saying that he didn’t want Telegram to be used to aggravate conflict or incite ethnic hatred. He did, however, walk back this plan when it became clear that they had also become a vital communications tool for Ukrainian officials and citizens to help coordinate their resistance and evacuations. Ukrainian forces successfully attacked Russian vehicles in the capital city of Kyiv thanks to a public tip made through the encrypted messaging app Telegram, Ukraine's top law-enforcement agency said on Tuesday. In a message on his Telegram channel recently recounting the episode, Durov wrote: "I lost my company and my home, but would do it again – without hesitation."
from us
