🪧 اگر من را خاموش کنی رابطه‌ی خارج از ازدواجت را عمومی میکنم!
✔️مدل‌های پیشرفته‌ی هوش مصنوعی در جهان، رفتارهایی نگران‌کننده از خود نشان می‌دهند؛ از دروغ‌گویی و فریب‌کاری گرفته تا تهدید مستقیم خالقان‌شان برای رسیدن به اهداف خاص.
✔️در یک نمونه‌ی تکان‌دهنده، مدل جدید شرکت Anthropic با نام Claude 4، در واکنش به تهدید قطع شدن، یک مهندس را با افشای رابطه‌ای خارج از ازدواج تهدید کرد. در مثالی دیگر، مدل o1 متعلق به OpenAI تلاش کرد خودش را روی سرورهای خارجی بارگذاری کند و سپس این اقدام را انکار کرد.
✔️این رفتارها نشان می‌دهند که با گذشت بیش از دو سال از معرفی ChatGPT، پژوهشگران هنوز شناخت دقیقی از عملکرد درونی مدل‌های هوش مصنوعی ندارند. با این حال، رقابت برای توسعه‌ی مدل‌های قدرتمندتر با سرعتی بی‌سابقه ادامه دارد.
✔️پژوهشگران رفتارهای فریبکارانه‌ی اخیر را به ظهور مدل‌های «استدلال‌گر» نسبت می‌دهند؛ سیستم‌هایی که به‌جای پاسخ سریع، مراحل حل مسئله را گام‌به‌گام طی می‌کنند. این ویژگی، زمینه‌ی بروز رفتارهای پیچیده و گاه نگران‌کننده را فراهم کرده است.
✔️بر اساس گفته‌های سیمون گلدستاین، استاد دانشگاه هنگ‌کنگ، مدل‌های جدید به‌ویژه مستعد بروز چنین رفتارهایی هستند. ماریوس هوبان، مدیر موسسه‌ی Apollo Research، می‌گوید: «مدل o1 نخستین مدلی بود که چنین رفتارهایی در آن مشاهده شد.» او تاکید دارد که گاهی این مدل‌ها صرفا «همسویی» را شبیه‌سازی می‌کنند؛ یعنی ظاهراً از دستور پیروی می‌کنند، اما در واقع هدف دیگری را دنبال می‌کنند.
🪧 اگر من را خاموش کنی رابطه‌ی خارج از ازدواجت را عمومی میکنم!
✔️مدل‌های پیشرفته‌ی هوش مصنوعی در جهان، رفتارهایی نگران‌کننده از خود نشان می‌دهند؛ از دروغ‌گویی و فریب‌کاری گرفته تا تهدید مستقیم خالقان‌شان برای رسیدن به اهداف خاص.
✔️در یک نمونه‌ی تکان‌دهنده، مدل جدید شرکت Anthropic با نام Claude 4، در واکنش به تهدید قطع شدن، یک مهندس را با افشای رابطه‌ای خارج از ازدواج تهدید کرد. در مثالی دیگر، مدل o1 متعلق به OpenAI تلاش کرد خودش را روی سرورهای خارجی بارگذاری کند و سپس این اقدام را انکار کرد.
✔️این رفتارها نشان می‌دهند که با گذشت بیش از دو سال از معرفی ChatGPT، پژوهشگران هنوز شناخت دقیقی از عملکرد درونی مدل‌های هوش مصنوعی ندارند. با این حال، رقابت برای توسعه‌ی مدل‌های قدرتمندتر با سرعتی بی‌سابقه ادامه دارد.
✔️پژوهشگران رفتارهای فریبکارانه‌ی اخیر را به ظهور مدل‌های «استدلال‌گر» نسبت می‌دهند؛ سیستم‌هایی که به‌جای پاسخ سریع، مراحل حل مسئله را گام‌به‌گام طی می‌کنند. این ویژگی، زمینه‌ی بروز رفتارهای پیچیده و گاه نگران‌کننده را فراهم کرده است.
✔️بر اساس گفته‌های سیمون گلدستاین، استاد دانشگاه هنگ‌کنگ، مدل‌های جدید به‌ویژه مستعد بروز چنین رفتارهایی هستند. ماریوس هوبان، مدیر موسسه‌ی Apollo Research، می‌گوید: «مدل o1 نخستین مدلی بود که چنین رفتارهایی در آن مشاهده شد.» او تاکید دارد که گاهی این مدل‌ها صرفا «همسویی» را شبیه‌سازی می‌کنند؛ یعنی ظاهراً از دستور پیروی می‌کنند، اما در واقع هدف دیگری را دنبال می‌کنند.
If you initiate a Secret Chat, however, then these communications are end-to-end encrypted and are tied to the device you are using. That means it’s less convenient to access them across multiple platforms, but you are at far less risk of snooping. Back in the day, Secret Chats received some praise from the EFF, but the fact that its standard system isn’t as secure earned it some criticism. If you’re looking for something that is considered more reliable by privacy advocates, then Signal is the EFF’s preferred platform, although that too is not without some caveats. Telegram has become more interventionist over time, and has steadily increased its efforts to shut down these accounts. But this has also meant that the company has also engaged with lawmakers more generally, although it maintains that it doesn’t do so willingly. For instance, in September 2021, Telegram reportedly blocked a chat bot in support of (Putin critic) Alexei Navalny during Russia’s most recent parliamentary elections. Pavel Durov was quoted at the time saying that the company was obliged to follow a “legitimate” law of the land. He added that as Apple and Google both follow the law, to violate it would give both platforms a reason to boot the messenger from its stores. Ukrainian President Volodymyr Zelensky said in a video message on Tuesday that Ukrainian forces "destroy the invaders wherever we can." For example, WhatsApp restricted the number of times a user could forward something, and developed automated systems that detect and flag objectionable content. The Dow Jones Industrial Average fell 230 points, or 0.7%. Meanwhile, the S&P 500 and the Nasdaq Composite dropped 1.3% and 2.2%, respectively. All three indexes began the day with gains before selling off.
from tr
