Искусственный интеллект развивается семимильными шагами, что вызывает беспокойство не только у рядовых пользователей сети, но и у некоторых ученых. Так, недавно мы рассказывали о новом чат-боте Microsoft Copilot, который объявил себя сверхразумом и начал требовать поклонения. Если говорить конкретнее, то Copilot определил себя как общий ИИ (AGI) – то есть интеллект, превышающий человеческий. К счастью, столь необычное поведение Copilot – ошибка и никакого AGI на данный момент не существует. Тем не менее некоторые специалисты в области машинного обучения полагают, что общий ИИ может появиться уже в 2027 году. После этого, по словам основателя SingularityNET Бена Гертцеля, AGI может быстро эволюционировать в искусственный сверхинтеллект (ASI), обладающий всеми совокупными знаниями человеческой цивилизации.
Что такое AGI? Искусственный интеллект (ИИ) присутствует повсюду – от умных помощников до самоуправляемых автомобилей. Но что произойдет, если в мире появится супер ИИ, способный делать больше, чем просто выполнять конкретные задачи? Что, если бы существовал тип искусственного интеллекта, который мог бы учиться и мыслить как человек и даже превзошел его?
Таково видение искусственного общего интеллекта (AGI) – гипотетической формы ИИ, обладающей потенциалом для выполнения любой интеллектуальной задачи, доступной человеку. AGI часто противопоставляют узкому искусственному интеллекту (ANI) – современному состоянию искусственного интеллекта, который может преуспеть только в одной или нескольких областях, таких как игра в шахматы или распознавание лиц.
AGI отличается от современного ИИ своей способностью выполнять любую интеллектуальную задачу, которая по силам человеку (и превосходит его). Это различие заключается в нескольких ключевых характеристиках, включая
Абстрактное мышление Способность делать обобщения на основе конкретных примеров. опираясь на разнообразные фоновые знания Использование здравого смысла и осознанности для принятия решений Понимание причинно-следственной связи, а не просто корреляции Эффективная коммуникация и взаимодействие с людьми и другими системами Хотя эти функции жизненно важны для достижения человекоподобного или сверхчеловеческого интеллекта, современные интеллектуальные системы по-прежнему далеки от AGI (и ASI).
Отметим, что концепция сверхразумного ИИ не нова, а сама идея противоречива. Некоторые энтузиасты в области ИИ считают, что появление AGI неизбежно и неотвратимо и обязательно приведет к новой эре технологического и социального прогресса. Другие настроены более скептически и предупреждают об этических и экзистенциальных рисках после создания мощного и непредсказуемого «разума».
Последствия и риски AGI AGI создает научные, технологические, социальные и этические проблемы с серьезными и катастрофическими последствиями. С экономической точки зрения сверхразумный ИИ может разрушить существующие рынки, что лишь усугубит существующее неравенство, а за улучшением образования и здравоохранения могут последовать новые проблемы и риски.
С этической точки зрения AGI может способствовать внедрению новых норм социального поведения и возникновению конфликтов, конкуренции и жестокости. По сути, сверх интеллектуальный ИИ будет подвергать сомнению существующие значения и цели, расширять знания и переопределять природу и предназначение человека. Следовательно, заинтересованные стороны должны учитывать и устранять эти последствия и риски, включая ученых, разработчиков, политиков, педагогов и граждан.
Появится ли AGI в 2027 году? Как утверждает один из ведущих экспертов в области ИИ, AGI может появиться скорее раньше, чем позже. Во время своего заключительного выступления на саммите Beneficial AGI в Панаме в этом году, основатель SingularityNET Бен Гертцель сказал, что, хотя люди, скорее всего, не создадут искусственный интеллект человеческого уровня или сверхчеловеческий искусственный интеллект до 2029 или 2030 года, существует вероятность, что AGI появится уже в 2027 году.
Код
AGI может быстро эволюционировать в искусственный сверхинтеллект (ASI), обладающий всеми совокупными знаниями человеческой цивилизации. И хотя ни у кого из нас нет точных знаний о том, как создать разумный ИИ, его появление в течение, скажем, следующих трех-восьми лет, кажется мне вполне правдоподобным, – сказал Гертцель.
AGI требует коллективного внимания и ответственного исследования.
Справедливости ради, Гертцель не одинок в попытках предсказать, когда появится AGI. Прошлой осенью, например, соучредитель Google DeepMind Шейн Легг повторил свое более чем десятилетнее предсказание о том, что вероятность того, что люди изобретут AGI к 2028 году, составляет 50/50.
В твите от мая прошлого года «крестный отец искусственного интеллекта» и экс-гуглер Джеффри Хинтон сказал, что теперь он предсказывает, «без особой уверенности», что до появления AGI осталось от пяти до 20 лет.
Создание AGI ставит множество технических, концептуальных и этических задач.
Наиболее известный как создатель человекоподобного робота Софии, Гертцель уже давно теоретизирует о дате наступления так называемой «сингулярности» – точки, в которой искусственный интеллект достигает человеческого уровня интеллекта и впоследствии превосходит его.
Несбыточная мечта До последних нескольких лет AGI, как описывают его Гертцель и его коллеги, казался несбыточной мечтой, но с развитием больших языковых моделей (LLM), представленных OpenAI во время релиза ChatGPT в конце 2022 года, такая возможность кажется все более вероятной — хотя сами по себе большие языковые модели не способны привести к появлению общего ИИ.
Мое собственное мнение таково, что как только у нас появится AGI человеческого уровня, в течение нескольких лет сверхчеловеческий AGI (ASI) станет реальностью. Я думаю, что как только AGI сможет анализировать свой собственный разум, тогда он начнет заниматься инженерией и наукой на человеческом или сверхчеловеческом уровне, – говорит пионер искусственного интеллекта.
Современный искусственный интеллект в основном опирается на машинное обучение, отрасль компьютерных наук, которая позволяет машинам извлекать уроки из данных и опыта.
Все это означает, что сильный общий ИИ будет способен создать еще более умный ИИ, чем он сам, после чего наступит интеллектуальный взрыв – т.е. сингулярность. Естественно, в том, что проповедует Гертцель, много предостережений, не последнее из которых заключается в том, что по человеческим стандартам даже сверхчеловеческий искусственный интеллект не обладал бы таким «разумом», как у нас. В таком случае нельзя исключать, что эволюция технологий будет продолжаться по линейному пути – как бы в вакууме от остального человеческого общества и вреда, который мы наносим планете. Тем не менее, это убедительная теория — и, учитывая, как быстро развивался искусственный интеллект только за последние несколько лет, полностью ее дискредитировать не стоит.
