AGI: за пределами хайпа, перед бурей
Побывал на очередном AI-митапе про продвижение Эстонии как AI-нации. После вступительных слов от Vattan PS и Allan Martinson:
Первый доклад Linnar Viik про использование OpenAI / Anthropic в образовании. Я это поддерживаю, AI отлично умеет подстраиваться под конкретного ученика. Но я вижу здесь 2 опасности - предвзятость и галлюцинации моделей, а также использование закрытых API-моделей как провайдеров.
Считаю, что эстонским школам стоит использовать локально размещённые модели, обученные в сотрудничестве с Министерством образования Эстонии, и, возможно, Clarifai мог бы с этим помочь.
Второй блок докладов - местные AI-стартапы и их пятиминутные питчи: Askel.ai, Supersimple, Targum, Align (getalign.com), Forgemaster AI. Askel мне очень понравился, потому что он про агентов, а я в них очень оптимистично верю - и пользуюсь, и сам строю.
Я задал кучу страшных вопросов про агентов и про то, как они собираются подорвать их бизнес, так что Vattan потом запретил мне пугать спикеров панели 😅
Наконец, панельная дискуссия "AGI: Beyond the Hype, Before the Storm".
Мои вопросы к участникам панели были бы такими:
- Gert Jervan. Образовательные учреждения. Зачем они нужны, если AI - лучший учитель? Социальная норма? Направление прогресса? Культура? Социализация?
- Andre Visse: Безопасность телеком-инфраструктуры в эпоху AI. Если AI-агент может взломать роутер, как Telia будет защищаться?
- Taivo Pungas: Агенты в ритейле на стороне потребителя. Появятся ли они у нас? Смогут ли они торговаться, если культура предполагает фиксированные цены?
- Taivo Pungas: Интеллект дешевеет. Станут ли все от этого умнее или глупее?
- Vattan PS: Почему Эстония должна быть особенной, если AI будет доступен во всех странах? Разве это не должно быть большим уравнителем, как открытое образование (лекции Coursera и Harvard), которое должно было изменить развивающийся мир?
Прозвучали ещё два заметных вопроса:
- Astra Tikas про этику против коммерции (если я правильно услышал)
- про гонку AI за доминирование
После этого я поспорил о том, дают ли агенты 10-кратный прирост продуктивности, достигли ли мы AGI, лучше ли модели рассуждают, чем средний человек, и что будет дальше. Удивился, что люди не видят, как агенты повлияют на большинство бизнесов.
- Мы в процессе того, чтобы сделать модели достаточно стабильными и заслуживающими доверия через мультиагентные системы
- Считаю справедливым задавать вопросы вроде "Зачем вам UI для SaaS, если агенты могут взаимодействовать с вами через API?"
Думаю, AGI у нас уже есть, модели уже превышают 130 IQ, и суперинтеллект мы получим скоро, потому что обучение моделей войдёт в фазу самоулучшения (о чём предупреждал CEO Anthropic, говоря, что нам нужно лучше понимать внутреннюю архитектуру LLM во время инференса).
Вопрос в том, кто сделает это агентным, распределённым и вирусным и выпустит наружу в.. Испании. Но AI также будет спасать жизни и радикально умножать человеческие способности.
Краткое содержание панели
Ниже - краткое содержание панели "AGI: Beyond the Hype, Before the Storm" с главными идеями, сгруппированными по людям.
Дисклеймер: записано через superwhisper, суммаризировано gemini, корректность не гарантируется
Gert Jervan, декан, TalTech University
- Ожидается, что AI/AGI окажет большое положительное влияние на образование, позволив индивидуализировать обучение и улучшить процесс.
- AGI несёт и вызовы (мощные инструменты), и возможности (направлять полезные процессы).
- У Эстонии значительный шанс за счёт высокого уровня дигитализации, доступности данных, малого размера, позволяющего ставить эксперименты и делать демонстраторы, и сложившегося IT-сектора
- TalTech запускает программу AI Systems для подготовки AI-инженеров, формируя нужный кадровый резерв, который умеет использовать, понимать и разрабатывать AI.
- Роль учителей будет эволюционировать в менторов или "отражателей" с фокусом на то, чтобы учить думать, а не просто воспроизводить факты.
- AI стоит воспринимать как важный инструмент.
Andre Visse, CEO, Telia Eesti
- Для инфраструктурных компаний и поставщиков жизненно важных услуг AI/AGI несёт значительные риски, которые нужно решать наряду с возможностями.
- Инфраструктура должна поддерживать автономные системы, а это поднимает вопросы инвестиций, масштабирования и того, кто за эти возможности заплатит.
- Автоматизация, при всей её пользе, усложняет диагностику и обслуживание по сравнению с человеческими ошибками (иллюстрация - инциденты со скриптами в сети).
- Есть сложность в определении безопасного уровня автономности для критической инфраструктуры и в том, как эффективно оставлять человека в контуре для надзора и вмешательства.
- Регулирование ЕС (вроде AI Act) иногда бывает медленным и потенциально тормозит прогресс по сравнению с другими регионами.
- AI - это инструмент, но пользователи должны сохранять контроль и понимать, что он иногда выдаёт дезинформацию и "гипнотизирует" человека, заставляя верить своему выводу. Он не "думает" и не имеет личности.
Taivo Pungas, CTO, Pactum
- По практическому опыту ощущение, что "рваный AGI" уже существует - сверхчеловеческий в конкретных задачах, но бесполезный в базовых физических.
- Приводит личные примеры использования AI для сложных исследований, подготовки к встречам, скриптов и оценки покупательских решений, подчёркивая его нынешнюю полезность.
- По мере того как интеллект становится дешёвым и доступным, дополняющие его вещи становятся ценнее (базовый экономический принцип).
- Ключевые дополнения к AI - софт-скиллы, агентность (AI сам не инициирует проекты), выбор правильных задач, умение отличать полезное, общий менеджмент и постановка чётких инструкций и целей.
- Ловкость роботов пока ограничена.
Vattan
- AI-"агенты" следуют протоколам, работают в циклах и используют внешние API (или "MCP") для доступа к информации за пределами обучающих данных.
- AGI можно рассматривать как потенциальную бизнес-модель.
- Эстонии нужна "AI-мафия" (влиятельная сеть), готовая поддерживать молодые таланты и предпринимателей, чтобы появились прорывные инновации.
- Нужно прямое финансирование исследований и разработок в AI, а не в составе других отраслей.
- Значительные возможности для Эстонии лежат в AI-безопасности (нужна по мере роста AI) и e-governance (AI требует управления, и здесь у Эстонии преимущество).
- Подготовка сильных AI/ML-инженеров - сложный и долгий процесс.
- Предлагает построить слой федеративного/прогнозного обучения поверх эстонской X-Road (например, для медицинских данных) как конкретную возможность для инноваций.
Lembit Loo
- Точное определение AGI менее важно, чем тот факт, что мы приближаемся к значимым возможностям ("на финишной прямой").
- Эстонии нужно понять, как эффективно оседлать волну AGI через кооперацию и партнёрства.
- У Эстонии уникальная позиция: способность понимать и использовать технологию (как США и Китай), оставаясь при этом в регуляторной рамке ЕС (вроде AI Act).