В цьому контексті, також згадую гарну цитату Еріха фон Манштайна: «Є чотири типи офіцерів. Перший — дурні й ледачі. Вони нікому не зашкодять. Другий — працьовиті й розумні. З них виходять чудові офіцери генерального штабу, і можна бути впевненим, що все буде зроблено правильно. Третій — працьовиті й дурні. Вони становлять загрозу і їх слід негайно звільнити: через них усі інші мають купу зайвої роботи. І нарешті, є розумні й ледачі. Вони підходять для найвідповідальніших посад.»

У Румунії тепер надрозумний президент. Подивимося, наскільки цього достатньо і які взагалі від цього бувають політичні і економічні наслідки. Щось взагалі не можу згадати надрозумних лідерів держав в історії.

https://x.com/arthurb/status/1924386502286479614?s=46&t=779E7UutOOl0DK6MbEY0cg

Ну яке вже є. Охорона не дає робити фото і взагалі підійти. Проривався майже з боєм. Сказав пару слів.

Сьогодні ми публікуємо перший випуск першого українського подкасту про ризики ШІ і алайнмент!

Епізод був зроблений більше місяця тому, але все не було часу робити маркетинг. Зараз теж нема, тому публікуємо без маркетингу і сподіваємося на силу репостів.

Далі плануємо публікувати випуски раз на 1-2 тижні.

У пілотному випуску говоримо про сутність інтелекту, різницю між AI, AGI, ASI, таймлайни і темпи розвитку.

Далі буде один випуск про думки експертів і один про пояснення основних аргументів щодо ризиків. Після цього - орієнтуємося на побажання аудиторії, і також запрошуємо гостей.

Подкаст зроблено з моїм найкращим другом, фізико-математиком і трохи програмістом, який зараз захищає нас в лавах ЗСУ.

Youtube
Apple Podcasts
Spotify
Podbean

Давайте не забувати, що:
1. Взагалі-то вийшла AlphaEvolve, яка додає ще один вимір зростання здібностей ШІ.
2. При всіх поточних проблемах Гугла, DeepMind керує Деміс Хассабіс. Багато хто вважає, що цей факт навіть зараз робить Гугл номер 1 кандидатом на створення суперінтелекту першим.

І так, в черговий раз можете переконатися, що всі ті, хто казали, що ШІ не справжній, бо не робить сам наукових відкриттів, переносять гоалпост. Я не знаю, що вони вигадають, але щось вигадають. Якось скажуть, що це не справжні відкриття або не те, що вони мали на увазі.

Утім, альтернативою дисципліни як джерела great work (або просто гідної роботи) часто не є щось психологічно позитивне - легке, веселе чи грайливе.

Наприклад, кожного разу, коли я роблю теоретичну наукову роботу, я не потребую жодної дисципліни, але я все одно страждаю, і доволі сильно (власне, тому я рідко роблю теоретичну наукову роботу, на відміну від емпіричної). Не через те, що треба змушувати себе думати про роботу, а через те, що ти не можеш не думати про роботу і робити щось інше.

Попередній раз я робив це минулого літа, коли писав свою бібліотеку по стохастичному аналізу та ергодичності.

У певний момент я подумав, що існує шанс, існує дорога до загального алгоритму розвʼязання Іто стохастичних диференційних рівнянь (ну, серед тих, що в принципі розвʼязуються). Я знав матеріали основних підручників по стохастичному аналізу, в тому числі тих, що вважаються найбільш просунутими, і я знав, що в них нема навіть натяку на такий алгоритм, і я заключив, що його ще не відкрили.

Звучить смішно, але я подумав, що я можу його відкрити!

Я не міг робити нічого, окрім як думати про алгоритм. Я засинав і прокидався з цією думкою. Що б я не робив, де б я не був, я думав про алгоритм, думав настільки сильно, що від цього було боляче, без зупинки.

І я додумався! Спочатку не вірилося, а формально перевірити доведення (через брак математичної підготовки) я не міг. Але я перевіряв на різних рівняннях Іто, на таких, що ніхто б їх в лоб ніколи не вирішив, і воно працювало, завжди!

Я ходив по квартирі вночі, і думки кружляли в моїй голові - про силу і славу, про велику гармонію, про те, як далеко може привести лише декілька дедуктивних кроків, і про те, що тепер я наче трохи краще розумію, чому саме математики серед усіх вчених частіше божеволіють.

Я почав писати статтю.

Увесь цей процес тривав може пару тижнів, але я був тотально виснажений, і хоча мені не треба було змушувати себе робити це, я не можу сказати, що я отримував якесь задоволення. Я робив, бо не міг не робити.

Але потім… Переходячи з посилання на посилання, все далі в минуле, я натрапив на підручник Гарда 1981 року, де, поміж іншого, як ні в чому не було, містився опис цього алгоритму, трохи в іншому вигляді.

Напевно, лише той факт, що я знав історію Тегмарка, який в молодості думав, що відкрив пояснення квантової декогеренції (і тому до речі, замінив своє прізвище на материнське Тегмарк - щоб краще виглядало у нобелівській статті), а потім, коли дізнався, що це вже давно відкрито, провів місяці чи навіть рік в депресії, врятував мене від якихось деструктивних дій. Я б сказав, що я відреагував спокійно і навіть стоїчно. Єдине, що мене гнівало, так це колективне рішення сучасних авторів підручників по стохастичному аналізу і професорів quant finance ніколи не згадувати про цей алгоритм і замість цього навчати 100500 окремим випадкам та трюкам, як розвʼязувати конкретні вузькі класи рівнянь.

Але як же боляче інколи робити гідну роботу!

ШІ починає знаходити zeroday вразливості в коді.

Вже відносно давно існує прогноз/спекуляція щодо «дню великого фіксингу кібербезпеки», коли одна з передових лаб випустить свою найновішу модель виправити усі дірки в безпеці усього коду в інтернеті перед тим, як випустити модель у відкрите користування, тим самим унеможливлюючи використання цієї моделі для кібератак після.

Зверніть також увагу на те, що вразливість була знайдена в кернелі лінуксу - буквально найбільш ретельно перевіреному open source коді в світі. Людський код повен дірок і не може бути не повним дірок, і це наче повинно бути очевидно, але якщо вам не очевидно, то ось.

https://sean.heelan.io/2025/05/22/how-i-used-o3-to-find-cve-2025-37899-a-remote-zeroday-vulnerability-in-the-linux-kernels-smb-implementation/

Уявіть, що ви зустріли позаземну цивілізацію. Уявіть, що ви бачите у них в новинах наступне повідомлення. Уявіть, що та позаземна цивілізація відреагувала на цю новину… нічим.

Чи вважали б ви, що ця цивілізація збирається вижити?

Вже готовий другий випуск подкасту, де ми обговорюємо думки різних категорій експертів з ШІ та безпеки ШІ, а також деякі їхні аргументи. Проте, цей випуск більше про "кінцеві" думки та очікування основних людей в науці та індустрії щодо ризиків, ніж про аргументи як такі - про них буде наступний випуск.

Youtube
Apple Podcasts
Spotify
Podbean

Вартість ШІ моделей однакової здатності падає в середньому в 40 разів на рік (добре, що хтось порахував нарешті), що приблизно в 25 швидше, ніж закон Мура.