Драма вокруг CEO OpenAI Сэма Альтмана породила множество версий касательно причин его неожиданного увольнения. Поводом стал пресс-релиз компании, в котором говорилось, что он «не всегда был откровенен с советом директоров». Но в чем именно?
По данным Reuters, незадолго до увольнения исследователи OpenAI предупредили совет директоров о большом открытии в области ИИ, которое «может угрожать человечеству». По мнению многих сотрудников, разработка может стать прорывом в создании общего искусственного интеллекта (AGI).
Спекуляции пролили свет на противоположные взгляды относительно развития искусственного интеллекта в сообществе. По сути, оно разделилось противоборствующие лагери: представителей эффективного акселерационизма и сторонников децелерации — «децелов». Алекс Вильгельм из TechCrunch также выделяет ИИ-думеров.
Скорость и обеспокоенность
Взгляды акселерационистов, децелов и ИИ-думеров лежат в двух плоскостях:
скорости ― насколько быстро развиваются технологии ИИ;
обеспокоенности относительного того, что они могут развиваться слишком быстро; следовательно, нужно быть очень осторожными с тем, как люди используют и внедряют ИИ.
Отношение различных групп к скорости развития ИИ. Данные: TechCrunch.
e/acc и a16z
Эффективный акселерационизм ― это идеология и движение, которые опираются на теорию акселерационизма, восходящую к трудам французских постструктуралистов Жиля Делеза и Феликса Гваттари. Сторонники этой концепции, как правило, относятся к крайним флангам условной системы политических координат. Так, акселерационистскую теорию с 1990-х годов активно продвигает британский философ Ник Ланд, для описания своих взглядов выбравший термин «неореакция».
В названии e/acc также можно считать отсылку к «эффективному альтруизму» (ЭА), популярность которого росла и падала вместе с бывшим генеральным директором FTX Сэмом Бэнкманом-Фридом. Идея ЭА заключается в том, чтобы «найти лучшие способы помочь другим и применить их на практике».
В недавно опубликованном «Манифесте технооптимиста» сооснователя венчурной компании a16z Марка Андриссена можно найти такое определение:
«Мы верим в aкселерационизм ― сознательное и целенаправленное стимулирование технологического развития для обеспечения выполнения Закона ускоряющейся отдачи. Чтобы спираль роста технокапитала продолжалась вечно».
Также в манифесте он указал следующее:
«У нас есть враги. Наши враги ― не плохие люди, а скорее плохие идеи. Наше современное общество на протяжении шести десятилетий подвергается массовой деморализации ― против технологий и против жизни ― под разными названиями: „экзистенциальный риск“, „устойчивость“, „ESG“, „цели устойчивого развития“, „социальная ответственность“, „капитализм стейкхолдеров“, „принцип предосторожности“, „доверие и безопасность“, „техноэтика“, „управление рисками“, „антирост“, „пределы роста“».
Эти выдержки помогают резюмировать основные идеи и ценности e/acc. Его сторонники выступают за сознательное продвижение общества вперед за счет агрессивных технологических инноваций, не сдерживаемых опасениями по поводу их возможных негативных эффектов.
Основной аргумент e/acc состоит в том, что новые технологии могут привести к радикальным социальным переменам, и долгосрочные выгоды от этого настолько велики, что потенциальные риски можно просто игнорировать.
В «Манифесте технооптимиста» также описываются децелы:
«Наш враг ― децелерация, антирост, депопуляция ― нигилистическое желание, столь модное среди нашей элиты: иметь меньше людей, меньше энергии, больше страданий и смерти».
Децелы по-прежнему выступают за развитие искусственного интеллекта, просто они хотят быть более осторожными в этом вопросе. К ним можно отнести многих представителей мира технологий вроде сооснователя MIRI Элиезера Юдковского.
Также в начале 2023 года более сотни ученых, независимых исследователей и бизнесменов, включая Илона Маска и Стива Возняка, подписали открытое письмо с предложением приостановить на шесть месяцев обучение языковых моделей мощнее GPT-4:
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в заявлении.
ИИ-думеры считают, что человечество роет себе могилу с помощью новых технологий ИИ.
«Но поскольку на думеризме много денег не заработать (кроме написания хорошей фантастики), это скорее академическая позиция, чем позиция, которую занимают технологические компании.Насколько я могу судить, e/acc выигрывает в текущем дискуссии, в основном благодаря быстро развивающимся технологиям ИИ и тому факту, что огромная часть экономики хочет их использовать, чтобы экономить деньги и делать больше», ― утверждает Алекс Вильгельм из TechCrunch.
Таким образом, сегодня в спину сторонникам e/acc дует попутный ветер капитализма.
Выводы
Можно предположить, что именно децелы попытались сместить Альтмана с его поста в OpenAI, что привело в ярость генерального директора Microsoft Сатью Наделлу. Его компания инвестировала $10 млрд в OpenAI, а Альтман вернулся на должность CEO с новым советом директоров.
Если его увольнение рассматривать как мятеж и попытку «создать безопасный ИИ или ничего не создавать», то она фактически провалилась.
Использование любых материалов, опубликованных на портале itoboz.com, разрешается только при условии обязательного указания источника. Любое использование контента — будь то статьи, аналитические материалы, обзоры или новостные публикации — должно сопровождаться прямой гиперссылкой, открытой для индексации поисковыми системами.
Для интернет-СМИ, блогов и иных онлайн-платформ необходимо размещать такую ссылку либо в подзаголовке, либо в первом абзаце публикации. Скрытые ссылки или технические методы, препятствующие индексации, использовать запрещается.
Редакция портала itoboz.com публикует материалы различных авторов, однако не обязательно разделяет их мнение или позицию. Все точки зрения, представленные в статьях, обзорах и комментариях, принадлежат исключительно авторам публикаций. Редакция не несет ответственности за содержание републикуемых материалов, а также за любые последствия их использования третьими лицами.
