Новый показатель безопасности ИИ: «постоянная Комптона»
Сравнение искусственного интеллекта с атомной бомбой становится всё более распространённым, но расчёты последствий развития ИИ остаются неопределёнными. Физик и исследователь безопасности AI, профессор MIT Макс Тегмарк предлагает ввести новый показатель для оценки рисков, связанных с ИИ — «постоянную Комптона». Этот показатель призван отражать вероятность того, что ИИ выйдет из-под контроля человека.
История и значение «постоянной Комптона»
Идея «постоянной Комптона» вдохновлена расчётами, проведёнными перед первыми ядерными испытаниями в 1945 году. Тогда учёный Артур Комптон оценил вероятность того, что ядерная бомба подожжёт атмосферу и уничтожит всё живое, как менее 1 к 3 миллионам. Сегодня Макс Тегмарк считает, что шанс того, что ИИ выйдет из-под контроля, составляет 90%.
- «Постоянная Комптона» — это вероятность выхода ИИ из-под человеческого контроля.
- Метрика основана на исторических расчётах безопасности ядерных испытаний.
- Тегмарк оценивает риск неуправляемого ИИ в 90%.
Необходимость прозрачности
Тегмарк подчёркивает важность того, чтобы компании, разрабатывающие модели ИИ, вычисляли и обнародовали «постоянную Комптона» для своих разработок. «Недостаточно просто говорить “мы уверены, что всё хорошо” — нужно называть цифры», — утверждает он.
Источник: The Guardian
