Зачем технологическим гигантам штатные философы и как они определяют будущее ИИ

Развитие технологий искусственного интеллекта неожиданно вернуло востребованность одной из самых теоретических гуманитарных дисциплин. Крупнейшие лаборатории мира нанимают профессиональных философов, чтобы решать фундаментальные вопросы о природе разума и морали. Однако в академической среде такое сотрудничество вызывает немало скепсиса.

От теории к коду: зачем ИИ понадобилась философия

По мнению экспертов, сейчас наступило лучшее время для развития философии со времен, когда Аристотель обучал Александра Македонского. Вопросы, над которыми мыслители размышляли веками — «Что такое разум?» и «Что есть сознание?» — сегодня переходят в сугубо практическую плоскость. Технологии ИИ, угрожающие автоматизацией многим традиционным профессиям, напротив, повысили спрос на специалистов по этике и логике.

Ведущие лаборатории мира уже сформировали внутренние этические отделы. Команду ученых в Google DeepMind возглавляет этик Иасон Габриэль, а одним из публичных лиц стартапа Anthropic стала штатный философ Аманда Аскелл. По оценкам профильных обозревателей, в штате DeepMind сегодня работает не менее десяти профессиональных философов, а в Anthropic — как минимум четыре специалиста.

Этот тренд влияет и на высшее образование. По словам профессора Оксфордского университета Эдварда Харкорта, во многих ведущих вузах фиксируется всплеск интереса к междисциплинарным программам, объединяющим компьютерные науки и философию.

Размывание границ и этический аудит

Работа философов в коммерческих компаниях вызывает споры в академическом сообществе. Критики опасаются, что зависимость от корпоративного финансирования может лишить исследования объективности, превратив философию в инструмент маркетинга и создания мифов вокруг возможностей ИИ. В обзорах отмечается, что присутствие таких специалистов в штате выгодно для имиджа ИТ-гигантов, так как это создает иллюзию создания чего-то сверхмощного и уникального.

Тем не менее, сами корпоративные философы указывают на практическую пользу своей работы. За последние годы их задачи существенно усложнились. Если раньше специалисты фокусировались на предвзятости алгоритмов, то с появлением больших языковых моделей фокус сместился на так называемое «выравнивание ценностей» (value alignment) — обучение систем тому, что значит быть этичными и полезными.

В лондонском офисе DeepMind площадью около 16 700 квадратных метров философ Джулия Хаас занимается созданием методологии для проверки моделей на соответствие человеческой морали. Ее цель — научить алгоритмы отличать подлинное следование этическим нормам от их поверхностной имитации, учитывая культурные различия пользователей из разных стран.

Конституция для нейросети

В компании Anthropic философы напрямую участвуют в обучении ИИ. Аманда Аскелл, ранее работавшая в OpenAI, занимается разбором нестандартных ситуаций — например, поведением ИИ при общении с пользователем, находящимся в состоянии психологического кризиса. Именно она стала основным автором «конституции» для языковой модели Claude — свода правил, определяющего базовые ценности системы.

При этом Аскелл подчеркивает важность подготовки к переходному периоду, когда модели начнут участвовать в обучении последующих поколений ИИ. Ее цель — заложить основы гармоничного сосуществования алгоритмов и людей, избегая возможных конфликтов между создателями и технологией.

Критика и альтернативные взгляды

Не все ученые разделяют оптимизм по поводу корпоративной философии. Представители академической среды указывают на следующие риски:

• Использование этики в качестве прикрытия (так называемый «этикс-вошинг»), когда компании демонстрируют заботу о безопасности лишь для повышения доверия аудитории.
• Ограничение свободы научной мысли рамками бизнес-задач коммерческих корпораций и интересами инвесторов.
• Бесполезность споров о «сознании» машин, которые, по мнению ряда исследователей, никогда не сравнятся с человеком из-за отсутствия физического тела и биологического опыта.

Впрочем, сторонники работы внутри индустрии возражают: только находясь на передовой разработки, можно получить доступ к самым передовым технологиям до их публичного релиза и вовремя скорректировать траекторию их развития. В условиях жесткой рыночной конкуренции репутационные риски часто заставляют компании прислушиваться к этическим рекомендациям, что делает работу философов внутри корпораций действительно значимой.

В конечном итоге присутствие философов в лабораториях ИИ становится новой нормой. Подтверждением этого тренда служит недавнее назначение в DeepMind исследователя из Кембриджского университета, чья официальная должность теперь звучит лаконично — «философ».