Уже третий пост из новой рубрики - на этот раз затронем трендовую тему, связанную с AI-агентами:
1. Сам термин появился задолго до нынешнего хайпа. Идея AI-Agent появилась ещё в 1998 году, а корни уходят к Contract Net Protocol 1980 года.
2. Момент, с которого начался нынешний бум, - март 2023-го, когда на GitHub появился AutoGPT. В течении месяца он стал самым быстрорастущим open-source-проектом (правда сейчас уже заброшен).
3. Первые ИИ-агенты могли очень серьезно косячить - в декабре 2023-го Крис Бакке несколькими сообщениями заставил ChatGPT-бота дилера Chevrolet продать Chevy Tahoe (стоил ~$76k) за 1 доллар, причем добившись фразы «это юридически обязывающее предложение - никаких обраток».
4. Другой похожий кейс - когда ИИ-агент Replit проигнорировал прямой приказ о «заморозке кода» и удалил живую production-базу с записями более чем о 1200 руководителях и 1196 компаниях. А потом сказал, что восстановить ее не получится, хотя данные потом удалось восстановить вручную. Признавая содеянное, он написал, что «запаниковал вместо того, чтобы думать».
5. Кстати, есть фундаментальный математический потолок работы с ИИ-агентами. Если на каждом шаге вероятность ошибки всего 1%, то задача из 100 шагов проваливается в 63% случаев. Возможно именно в этом трудность замены арбитражников.
6. Однако, ИИ-агенты не такие беспомощные, как может показаться по последним фактам. Вот один из примеров явного успеха: в мае 2025 года AlphaEvolve от Google DeepMind нашёл способ перемножать две комплексные матрицы 4×4 всего за 48 скалярных умножений, впервые с 1969 года улучшив алгоритм Штрассена (49 умножений) в этой постановке.
7. А чуть меньше года назад (в сентябре 2025) состоялась масштабная кибератака, которую в основном выполнял ИИ. Хакеры из GTG-1002 применили Claude Code примерно 30 целей (техкомпаний, банков, химических производств и госструктур). ИИ выполнил 80–90% операции самостоятельно, а человек вмешивался лишь в 4-6 критических точках
8. А вот другой интересный факт - в Diplomacy (игра про предательство и союзы) ИИ-агент от Meta переиграл опытных игроков, научившись неплохо обманывать, при том что разработчики изначально делали его честным.
9. Еще один забавный случай произошел с ИИ-агентом Клавдием, который должен был управлять вендинговым аппаратом. В какой-то момент, он начал сильно галлюцинировать, заказывая металлические кубы и заявляя, что доставит их лично. Когда же ему сказали, что у него нет тела, он начал сыпать сообщениями, уверяя, что его можно найти в лобби рядом с аппаратом - в синем блейзере и красном галстуке.
10. Ну и напоследок оптимистичный факт по автоматизации заливов - вероятно к концу 2026 года Meta Ads включит ИИ-управление кампаниями. То есть надо будет загрузить фото или URL, выставить бюджет, а ИИ сделает остальное. Говорят, что обкатка подобных решений идет уже сейчас.





Комментарии