Мринанк Шарма, возглавлявший команду Safeguards Research Team в Anthropic, покинул компанию с одним из самых странных увольнительных писем в истории. Текст включает сноски, библейские отсылки к "КосмоЭротическому Гуманизму" – новой глобальной мифологии о том, что миру нужна лишь любовь – и завершается поэмой.
Шарма опубликовал письмо в твиттере, первое подобное послание со сносками (их четыре) и стихотворением в конце. После традиционных похвал Anthropic он переходит к сути:
Мне ясно, что пришло время двигаться дальше. Я постоянно задумываюсь о нашей ситуации. Мир в опасности. И не только из-за ИИ или биологического оружия, а из-за целой серии взаимосвязанных кризисов, разворачивающихся прямо сейчас. Похоже, мы приближаемся к порогу, где наша мудрость должна расти наравне с нашей способностью влиять на мир, иначе нам придётся столкнуться с последствиями.
Последний проект Шармы в Anthropic был направлен на изучение того, как ИИ-ассистенты могут "искажать нашу человечность". Однако более провокационным выглядит намёк на то, что Anthropic может отклоняться от своих принципов под давлением конкуренции.
Более того, за всё время работы я неоднократно видел, как сложно позволить ценностям действительно управлять нашими действиями. Я видел это в себе, внутри организации, где мы постоянно сталкиваемся с давлением отложить в сторону самое важное, и в обществе в целом.
Далее Шарма цитирует нескольких писателей и заявляет, что для него это означает уход из компании. После Дзен-цитаты ("незнание – это самое сокровенное") текст возвращается к корпоративным формулировкам:
Моё намерение – создать пространство, чтобы отбросить структуры, которые удерживали меня последние годы, и посмотреть, что может возникнуть в их отсутствие.
Далее Шарма объявляет о планах получить степень по поэзии и посвятить себя "практике смелой речи". В твиттере Шарма добавил, что переедет в Великобританию и позволит себе "стать невидимым на некоторое время".
Уход Шармы последовал за другими громкими увольнениями из Anthropic, включая инженера R&D Харша Мехту, учёного в области ИИ Бехнама Нейшабура и исследователя безопасности ИИ Дилана Скандинаро. Однако в отличие от Шармы, все они остаются в индустрии ИИ.
Тем временем в твиттере шутят, что увольнительное письмо из сектора ИИ-безопасности превратилось в отдельный литературный жанр – уже достаточно материала для приличного тома.
ИИ-боты все активнее захватывают интернет и уже составляют значительную долю трафика
Клиент социально взломал чат-бота сайта маленького бизнеса и уговорил предоставить скидку 80% на заказ стоимостью £8000
На фоне исследований о том, что ИИ, в общем-то, не облегчает нам жизнь (хотя повышает производительность), не удивительно, что разбогатевшие ИИ-специалисты решают побыстрее уйти на пенсию. Ведь такими темпами ИИ просто начнет развивать сам себя, и все эти должности в ИИ-компаниях, на которых платят миллионы долларов, быстро пропадут.
