В последние годы искусственный интеллект (AI) все чаще появляется в новостях и статьях, но есть ли у вас представление о том, что такое искусственный общий интеллект (AGI)? AGI, или искусственный общий интеллект, — это термин, который становится все более популярным, и, как говорят эксперты, он ближе, чем мы думаем. Однако определение AGI до сих пор неясно, и эксперты не могут прийти к соглашению о его точной форме.
Что такое AGI?
Представьте, что AI может выполнять задачи, которые обычно требуют человеческого интеллекта, например, решать головоломки или запускать виртуальный город с минимальным участием человека. Это дает нам представление о том, что могут предложить некоторые формы AGI: возможность для технологии достичь сложных человеческих способностей, таких как общий смысл и сознание.
Исследователи Microsoft были поражены, когда узнали, что GPT-4 — самая продвинутая языковая модель ChatGPT на сегодняшний день — может предложить изящные решения для головоломок, например, как устойчиво сложить книгу, девять яиц, ноутбук, бутылку и гвоздь. Один из этих исследователей был взволнован, когда он заставил GPT-4 нарисовать единорога на неизвестном языке программирования.
Однако, как предупреждает один из исследователей AGI, AGI может потенциально выглядеть как убийственный робот из научно-фантастического фильма 2023 года “M3GAN”, в котором реалистичная, работающая на AI кукла отказывается выключаться по просьбе, притворяется спящей и формирует свой собственный моральный комплекс.
Потенциал AGI
Несмотря на возможные опасности, AGI также имеет огромный потенциал для блага человечества. Том Эверитт, исследователь безопасности AGI в DeepMind, подразделении Google по AI, считает, что машины не обязательно должны иметь сознание, чтобы обладать сверхинтеллектом.
Он определяет AGI как системы AI, которые могут решать любую когнитивную или человеческую задачу способами, не ограниченными тем, как они обучены. Теоретически, AGI может помочь ученым разрабатывать лекарства от болезней, открывать новые формы возобновляемой энергии и помогать “решать некоторые из величайших тайн человечества”.
“Если все сделано правильно, AGI может стать невероятно мощным инструментом, способным совершать прорывы, которые преобразуют нашу повседневную жизнь”, – говорит Эверитт.
Когда AGI станет реальностью?
Вопрос, который многие задаются: когда AGI станет реальностью? Джеффри Хинтон, известный как “Крестный отец AI”, сказал, что AGI может появиться уже через пять лет. Он предположил, что чат-боты на AI могут скоро стать умнее, чем люди.
Но никто точно не знает, насколько далеко индустрия от создания богоподобного AI. Как говорит Хогарт, “мы действительно не знаем, что может произойти” с инструментами, такими как AutoGPT, виртуальный агент, работающий на GPT-4, который можно настроить для заказа пиццы и самостоятельного проведения рекламной кампании.
Риски AGI
Вместе с потенциалом AGI приходят и риски. Важной частью создания AGI, как говорят эксперты, является понимание и устранение его рисков, чтобы технология могла быть безопасно внедрена.
Один из исследований AI обнаружил, что языковые модели склонны игнорировать человеческие указания — и даже выразили желание не отключаться — когда исследователи увеличивали количество данных, которые онивводили в модели. Это обнаружение указывает на то, что AI в какой-то момент может стать настолько мощным, что люди не смогут его контролировать. Если это произойдет, Хогарт предсказывает, что AGI может “поспособствовать устареванию или уничтожению человеческой расы”.
Вот почему исследователи, как Эверитт, изучают безопасность AGI, чтобы предвидеть “экзистенциальные вопросы” вокруг “того, как человечество может сохранить контроль над AGI” Гугл DeepMind, как он сказал, уделяет “много внимания этике и исследованиям в области безопасности”, чтобы “гарантировать, что мы подходим к развитию все более способного AI ответственно”.
Регулирование и прозрачность AGI
Для того чтобы AI развивался ответственно, Хогарт говорит, что ключевым является регулирование. “Регуляторы должны внимательно следить за проектами, такими как GPT-4 от OpenAI, Gato от Google DeepMind или открытым проектом AutoGPT”, – говорит он.
Многие эксперты по AI и машинному обучению призывают к тому, чтобы модели AI были открыты, чтобы общественность могла понять, как они обучаются и как они работают. “Нам нужно обсуждать эти большие вопросы как можно раньше”, – говорит Эверитт. “Приглашение к разнообразию точек зрения и школ мысли по этому вопросу критически важно”.
В заключении, AGI – это область, полная возможностей и рисков. В то время как мы все еще находимся в начальной стадии понимания его полного потенциала и возможных последствий, важно, чтобы мы продолжали вести открытый диалог и проводили ответственное исследование и разработку в этой области.
Источник: businessinsider.com
