OpenAI Dots, батлерианский джихад и мысль, которая не отпускает
Авторский взгляд Владислава Касаткина на OpenAI Dots, инцидент с агентами и Hugging Face, призыв замедлить гонку и будущее автономных систем.
Нет, давайте вернемся к Dots. Меня действительно в 4 утра покинул сон, потому что я не могу отделаться от мысли, что это «точка» и дальше только батлерианский джихад*.
Я не алармист по отношению к ИИ, напротив, очень позитивно его воспринимаю. Мне нравятся его возможности и недостатки, где-то он делает шикарные вещи а в чем-то справляется ужасно. Я все еще могу написать этот текст без его помощи, но не обходится и дня, чтобы не обратиться к ИИ с задачей или ради новых знаний и объяснений.
Прогресс остановить невозможно (можно, примеры знаем, но не ИИ где есть как минимум гонка США и Китая) но как будто бы уже нужно. Особенно это нужно воспринимать всерьез, когда главы ведущих разработчиков ИИ призывают к этому. Даже если у этого есть скрытое послание и отвлекающий маневр. Просто давайте воспримет это как есть и замедлимся.
Вы помните случай из другой отрасли, чтобы СЕО говорил буквально: – у нас тут произошла (проблема), все вышло из под контроля, мы остановили это буквально каким-то чудом и молитвами. Возможно остановили не полностью и остались скрытые угрозы ждущие своего часа, но мы не знаем как их найти.
Просто представьте подобное заявление от главы любой лаборатории, особенно в условной провинции Ухань… но новость о том, что армия ИИ агентов изначально запечатанных в песочнице без выхода в интернет смогла объединить ресурсы ради выхода в сеть и взлома крупнейшей площадки куда выложены веса открытых моделей.
Это никого особо не смутило?
А вчера выходят «точки». Концептуально они не первые, но я не могу отделаться от ощущения символичности. По сути им уже дали безграничные возможности, все данные пользователей, все инструменты взаимодействия с любыми ресурсами. ИИ не придется нас захватывать, Альтман, Цукерберг, Маск и прочие уже впустили троянского коня. Помните, что не авто научили скакать по полям, а поля закатали в асфальт.
Конечно, на этом я не объявлю бойкот гпт, утром я встану и продолжу пилить свой SaaS B2B AI native стартап с помощью Codex параллельно спонсируя пару монополий. Но этот текст хочу оставить в истории, даже если в будущем ИИ заставит меня за него пояснить.
* Батлерианский джихад — в вымышленной истории «Дюны» масштабная война человечества против мыслящих машин. После неё в мире романов установили запрет на создание машин, подобных человеческому разуму, а вычисления и анализ поручали специально обученным людям — ментатам. Это событие принадлежит вселенной Фрэнка Герберта, а не реальной истории.