Директива Трампа по ИИ: Навязывание правды или предвзятости?

Введение

2 ноября 2022 года на мероприятии Google AI в Нью-Йорке одной из ключевых тем была ответственная разработка ИИ. Выступая, руководители компании обсуждали, как их технологии соотносятся с человеческими ценностями, и подчеркнули двойственность ИИ: модели могут быть настроены для минимизации предвзятости, но также и для навязывания определенной точки зрения. Эта гибкость вызывает опасения, что правительства могут потребовать манипулирования контентом для цензуры неугодных фактов или продвижения пропаганды – тактика, часто ассоциируемая с авторитарными режимами, такими как Китай. Хотя Конституция США традиционно защищает от прямого государственного вмешательства в работу ИИ, созданного частными компаниями, последние события указывают на возможное изменение этого подхода.

Ключевые детали

Название Указа: «Предотвращение «проснувшегося» ИИ в федеральном правительстве» (Preventing Woke AI in the Federal Government).
Заявленная цель: Обеспечить, чтобы ИИ, закупаемый федеральным правительством, объективно отражал истину, отдавал приоритет исторической точности, научным исследованиям и объективности, а также разрабатывался с учетом свободы слова и самовыражения.
Ключевое указание: Поручает Министерству торговли пересмотреть правила эпохи Байдена в отношении ИИ и исключить упоминания дезинформации, разнообразия, равенства и инклюзивности (DEI) и изменения климата.
Фокус на конкуренции: Общий план действий в области ИИ подчеркивает необходимость превзойти Китай в гонке за превосходство в ИИ.
Государственные закупки: Федеральное правительство обязуется не закупать модели, которые «жертвуют правдивостью и точностью ради идеологических повестк».
Критикуемый контент: Указ явно осуждает ИИ, поддерживающий разнообразие, выявляющий расовую предвзятость или ценящий гендерное равенство.
Реакция индустрии: Крупные компании, занимающиеся разработкой ИИ, публично хранят молчание или выражают сдержанную поддержку; OpenAI заявляет, что уже стремится к объективности.
Конгресс: Сенатор Эдвард Марки призвал руководителей компаний, занимающихся ИИ, противостоять указу, ссылаясь на финансовые стимулы для компаний, чтобы их чат-боты не производили высказываний, которые могли бы расстроить администрацию Трампа.

Предыстория

Недавно опубликованный План действий в области искусственного интеллекта (ИИ) администрации Трампа, представляющий собой 28-страничный документ, призван создать основу для разработки и внедрения ИИ в Соединенных Штатах. Хотя значительная часть плана посвящена достижению превосходства в области ИИ над Китаем, один конкретный раздел привлек пристальное внимание. Указ, озаглавленный «Предотвращение «проснувшегося» ИИ в федеральном правительстве», стремится определить и обеспечить соблюдение определенной версии «истины» в моделях ИИ. Этот указ предписывает федеральным агентствам, в частности Министерству торговли, исключить из действующих правил в отношении ИИ упоминания таких понятий, как дезинформация, разнообразие, равенство и инклюзивность (DEI) и изменение климата. Администрация утверждает, что эти темы представляют собой «повестку социального инжиниринга», и что ИИ должен придерживаться того, что она называет объективной истиной, исторической точностью и научным исследованием. Однако критики указывают на собственный послужной список администрации, включая преуменьшение значения изменения климата и продвижение определенной интерпретации американской истории, как на доказательство того, что это определение истины является субъективным и политически мотивированным.

Анализ воздействия

Последствия этого указа весьма значительны. Устанавливая требование, чтобы ИИ, закупаемый федеральным правительством, соответствовал определенному определению истины и избегал «идеологических повестк», администрация создает мощный стимул для компаний, занимающихся разработкой ИИ и стремящихся к государственным контрактам. Это может привести к «охлаждающему эффекту» в разработке ИИ, препятствуя созданию моделей, которые затрагивают такие чувствительные темы, как расовая предвзятость, гендерное равенство или изменение климата, поскольку они прямо критикуются в указе. Формулировки указа предполагают, что ИИ, демонстрирующий поддержку разнообразия или гендерного равенства, может быть признан несоответствующим требованиям. Это вызывает серьезные опасения относительно Первой поправки, поскольку усилия компаний по программированию нейтралитета или этических соображений в свои модели могут быть истолкованы как защищенное право на свободу слова. Государственное предписание, наказывающее такие усилия, даже косвенно через политику закупок, может рассматриваться как неконституционное вмешательство. Представление администрацией таких вопросов, как изменение климата и DEI, как «социального инжиниринга», еще больше размывает грань между политикой и идеологическим принуждением.

«Республиканцы хотят использовать силу правительства, чтобы ChatGPT звучал как Fox & Friends».

Более широкий контекст

Этот шаг происходит на фоне более широкого геополитического контекста конкуренции в области ИИ, особенно между США и Китаем. Администрация представляет свою стратегию в области ИИ как императив национальной безопасности для поддержания технологического доминирования. Однако акцент указа на контроле нарративов ИИ и определений истины перекликается с тактикой, применяемой авторитарными государствами, включая Китай, который активно цензурирует информацию и продвигает одобренные государством нарративы через свои технологии. США исторически отстаивали свободу слова и независимость информационных каналов от государственного контроля. Применение этой «анти-воук» повестки к ИИ, который все больше становится основным источником информации для многих, рискует подорвать этот принцип. Молчание со стороны крупных компаний, занимающихся разработкой ИИ, потенциально вызванное прибыльной перспективой государственных контрактов и желанием избежать регуляторных баталий, еще больше усложняет ситуацию. Эта нерешительность предполагает потенциальное приоритизацию деловых интересов над конституционными принципами, оставляя общественность уязвимой перед системами ИИ, которые отражают узкий, политически курируемый взгляд на мир.

Будущее

Долгосрочные последствия этого указа остаются неопределенными и в значительной степени зависят от его реализации и реакции индустрии ИИ, а также судебной системы. Если компании, занимающиеся разработкой ИИ, будут соблюдать его, самоцензурируя или приводя свои модели в соответствие с определением истины администрацией, это может привести к будущему, в котором системы ИИ будут предоставлять отфильтрованную или политически искаженную версию реальности. Это не только сдержит инновации, но и подорвет доверие общественности к ИИ как к источнику объективной информации. Потенциал для судебных исков, основанных на аргументах о Первой поправке, значителен, и исход таких дел может установить важные прецеденты для регулирования ИИ и свободы слова в цифровую эпоху. Призыв сенатора Марки к компаниям, занимающимся разработкой ИИ, сопротивляться указу подчеркивает растущую обеспокоенность законодателей по поводу потенциального чрезмерного государственного вмешательства. Эффективность этого указа также может быть ограничена присущими техническими трудностями определения и обеспечения «истины» в сложных моделях ИИ, что потенциально может привести к игре в кошки-мышки между регуляторами и разработчиками.

Заключение

Исполнительный указ администрации Трампа по ИИ представляет собой сложный парадокс: указ, якобы направленный на предотвращение идеологической предвзятости в ИИ, по-видимому, вводит новую форму политически мотивированной предвзятости. Стремясь контролировать определение «истины» и исключить упоминания таких понятий, как DEI и изменение климата, администрация рискует использовать ИИ в идеологических целях, отражая те самые авторитарные тактики, которые она критикует в Китае. Потенциальное воздействие на свободу слова, независимость информации и будущее развитие ИИ является существенным. Реакция компаний, занимающихся разработкой ИИ, и правовой системы будет иметь решающее значение для определения того, будет ли ИИ служить инструментом для подлинного понимания или средством для политически курируемых нарративов. Основное противоречие заключается в желании правительства формировать результаты работы ИИ и фундаментальных принципах свободы самовыражения и объективного исследования.