Существует два основных типа технологического управления, которые можно использовать для решения проблем, связанных с искусственным интеллектом (ИИ) и вычислительными науками в целом. Мы можем рассматривать их как механизмы управления «на местах» (снизу вверх, неформальное «мягкое право») по сравнению с «официальными» (сверху вниз, формальное «жесткое право») механизмами управления.

К сожалению, горячие споры о последнем типе управления часто отвлекают внимание от многих способов, которыми первый может (или уже помогает) помочь нам решить многие проблемы, связанные с новыми технологиями, такими как ИИ, машинное обучение и робототехника. Важно, чтобы мы усерднее думали о том, как оптимизировать эти децентрализованные механизмы управления мягким правом сегодня, особенно в связи с тем, что традиционные методы жесткого права все больше напрягаются из-за неумолимого темпа технологических изменений и продолжающегося дисфункционализма в законодательной и нормативной сферах.

Управление на местах и ​​в книгах

Давайте немного раскроем эти понятия на земле и в книгах. Я заимствую эти описания из важной статьи Кеннета А. Бамбергера и Дейдры К. Маллиган, опубликованной в 2011 году, в которой исследуется различие между тем, что они называют конфиденциальностью в книгах и на местах. Они определили, как децентрализованно появляются лучшие методы обеспечения конфиденциальности благодаря деятельности корпоративных сотрудников по вопросам конфиденциальности и ассоциаций по вопросам конфиденциальности, которые помогли сформулировать лучшие методы сбора и использования данных.

Рост профессиональных объединений и некоммерческих организаций в области конфиденциальности, особенно Международной ассоциации профессионалов в области конфиденциальности (IAPP), помог лучше формализовать передовой опыт в области конфиденциальности путем создания и сертификации внутренних сторонников соблюдения ключевых принципов обработки данных в организациях. К 2019 году в IAPP насчитывалось более 50 000 обученных членов по всему миру, и их число продолжает расти. Сегодня довольно часто можно встретить руководителей по вопросам конфиденциальности в корпоративном, правительственном и некоммерческом мире.

Эти специалисты по конфиденциальности работают вместе и совместно с широким кругом других игроков, чтобы «выпечь» широко принятые методы сбора/использования информации во всех этих организациях. С помощью IAPP и других защитников конфиденциальности и ученых эти специалисты также стремятся постоянно совершенствовать и улучшать свои стандарты с учетом меняющихся обстоятельств и проблем в нашей быстро развивающейся экономике данных. Они также стремятся обеспечить выполнение организациями обязательств, которые они взяли на себя перед общественностью или даже правительствами, и соблюдать различные передовые методы обработки данных.

Мягкое право и жесткое право

Эти усилия «на местах» помогли внедрить различные передовые методы корпоративной социальной ответственности и обеспечить гибкую модель управления, которая может дополнять, а иногда даже заменять формальные «документальные» усилия. Мы также можем думать об этом как о разнице между мягким правом и жестким правом.

«Мягкое право» относится к гибким, адаптируемым схемам управления новыми технологиями, которые создают существенные ожидания и передовой опыт для новаторов без нормативных требований. Мягкое право может принимать различные формы, включая руководящие принципы, передовой опыт, консультации и семинары агентств, многосторонние инициативы и другие экспериментальные виды децентрализованных, необязательных обязательств и усилий.

Мягкое право стало чем-то вроде заполнения пробелов в США, поскольку усилия по жесткому праву терпят неудачу по разным причинам. Наиболее очевидным объяснением того, почему роль жесткого управления сократилась, является то, что сегодня закону очень сложно идти в ногу с быстрым развитием технологий. Это известно как проблема темпа. Многие ученые определили, как проблема темпов приводит к разрыву в управлении или ловушке компетенций для политиков, потому что так же быстро, как они осваивают новые технологические разработки, другие технологии быстро появляются за ними по пятам.

Думайте о современных технологиях, особенно информационных и вычислительных, как о серии волн, которые все быстрее и быстрее накатывают на берег. Как только одна волна достигает гребня, а затем обрушивается, сразу же за ней приходит другая и снова заливает вас, прежде чем вы успеваете оправиться от ошеломления предыдущих ударов. В мире комбинаторных инноваций, где технологии накладываются друг на друга симбиотическим образом, этот процесс становится самоусиливающимся и неустанным. Для политиков это означает, что, как только они прошли один путь технологического обучения, начинается следующая волна, которая вынуждает их стараться быстро узнавать и готовиться к следующей. Законодатели часто ошеломлены этим потоком технологических изменений, из-за чего становится все труднее и труднее своевременно проводить политику, и в равной степени трудно обеспечить актуальность любой новой или даже существующей политики, поскольку все эти стремительные инновации продолжаются. .

Законодательный дисфункционализм не помогает. Конгресс с трудом продвигает законопроекты по многим вопросам, а технические вопросы часто отодвигаются в конец списка приоритетов. Конечным результатом является то, что Конгресс все чаще становится неучастником технологической политики в США. Большая часть действий сосредоточена в другом месте.

Какой у вас план резервного копирования?

Это означает, что есть весомый прагматический аргумент в пользу применения мягкого права, которое может, по крайней мере, предоставить нам некоторые усилия и методы управления «на местах». Мягкое право все чаще заполняет пробел в управлении, потому что жесткое право терпит неудачу по целому ряду уже выявленных причин. С практической точки зрения, даже если вы твердо настроены на введение жесткого, нисходящего, технократического режима регулирования любого данного сектора или технологии, вы должны, по крайней мере, иметь в виду запасной план, если вы не можете этого сделать.

Вот почему управление конфиденциальностью в Соединенных Штатах по-прежнему сильно зависит от таких усилий в области мягкого права, направленных на заполнение вакуума управления после многих лет неудачных попыток принять формальный федеральный закон о конфиденциальности. В то время как многие ученые и другие лица продолжают настаивать на таком всеохватывающем законе об обработке данных, усилия в области мягкого права «снизу вверх» сыграли важную роль в обеспечении баланса между конфиденциальностью и инновациями.

Аналогичным образом усилия по управлению «на местах» уже процветают для искусственного интеллекта и машинного обучения, поскольку политики продолжают очень медленно рассматривать вопрос о том, разумны ли новые инициативы жесткого права или вообще возможны. Например, законодатели Конгресса рассматривали федеральную нормативную базу для беспилотных автомобилей на протяжении последних нескольких сессий Конгресса. Многие люди в Конгрессе и в академических кругах согласны с тем, что федеральная структура необходима хотя бы по той причине, что она упреждает вызывающий ужас призрак лоскутного одеяла из непоследовательной государственной и местной политики регулирования. С таким количеством двухпартийных соглашений по законодательству о беспилотных автомобилях может показаться, что федеральный законопроект будет беспроигрышным вариантом. По этой причине из года в год люди всегда предсказывают: это год, когда мы примем закон о беспилотных автомобилях! И все же этого никогда не происходит из-за сочетания особых интересов оппозиции со стороны профсоюзов и судебные адвокаты, в дополнение к проблеме темпов и ограниченному вниманию Конгресса к другим вопросам.

Это справедливо и для алгоритмического регулирования. Мы слышим много призывов что-то сделать, но остается неясным, что это за что-то и будет ли это сделано в ближайшее время. Если мы не смогли провести законопроект о конфиденциальности через Конгресс после как минимум десяти лет серьезных усилий, есть вероятность, что широкомасштабное регулирование ИИ будет столь же сложным.

Мягкий закон для ИИ стремительно развивается

Таким образом, мягкое право, скорее всего, заполнит пробел в управлении ИИ. Это уже есть. Я работаю над новой книгой, в которой задокументирован поразительный набор механизмов мягкого права, уже существующих или разрабатываемых для решения различных алгоритмических проблем. Кажется, я не могу закончить книгу, потому что слишком много всего происходит в связи с усилиями по управлению программным правом для алгоритмических систем. Как отметил Марк Кокельберг в своей недавней книге Этика ИИ, в последние годы наблюдается лавина инициатив и программных документов в отношении этики и передового опыта ИИ. Это немного ошеломляет, но хорошая новость заключается в том, что в этих усилиях по управлению существует много последовательности.

Например, опрос 2019 года, проведенный группой исследователей из Швейцарии, проанализировал 84 этических концепции ИИ и обнаружил глобальную конвергенцию вокруг пяти этических принципов (прозрачность, справедливость и честность, непричинение вреда, ответственность и конфиденциальность). В недавнем мета-опросе 2021 года, проведенном группой ученых-юристов из Университета штата Аризона (ASU), были рассмотрены 634 удивительные программы искусственного интеллекта в области мягкого права, которые были сформулированы в период с 2016 по 2019 год. 36 процентов этих усилий были инициированы правительствами, а остальные возглавлялись некоммерческими организациями или организациями частного сектора. Вторя выводам швейцарских исследователей, в отчете ASU был обнаружен широкий консенсус среди этих структур мягкого права в отношении таких ценностей, как прозрачность и объяснимость, этика/права, безопасность и предвзятость. Это проясняет, что существует значительная согласованность между основами этического мягкого права, поскольку большинство из них сосредоточено на основном наборе ценностей, которые должны быть внедрены в дизайн ИИ. Британский институт Алана Тьюринга сводит свой список к четырем принципам FAST Track: справедливость, подотчетность, устойчивость и прозрачность.

Ученые ASU отметили, как лучшие этические методы проектирования продуктов уже сегодня влияют на разработчиков, создавая мощные нормы и ожидания в отношении ответственного проектирования продуктов. «После создания программы мягкого права организации могут попытаться обеспечить ее соблюдение, изменив то, как их сотрудники или представители выполняют свои обязанности, путем создания и внедрения внутренних процедур», — отмечают они. «Публичное принятие курса действий является сигналом для общества, который порождает ожидания относительно будущих действий организации».

Это важно, потому что многие крупные торговые ассоциации и отдельные компании разрабатывают рамки управления и этические принципы для разработки и использования ИИ. Например, среди крупных торговых ассоциаций U.S. Торгово-промышленная палата, Круглый стол бизнеса, BSA | The Software Alliance и ACT (Ассоциация приложений) недавно выпустили основные рекомендации по использованию ИИ. Заметные корпоративные усилия по принятию руководящих принципов этических методов ИИ включают заявления или концепции IBM, Intel, Google, Microsoft, Salesforce, SAP и Sony, и это лишь некоторые из них. Они также создают внутренних сторонников для продвижения этики ИИ путем назначения главных директоров по этике, создания официальных отделов или того и другого, а также дополнительного персонала для руководства процессом внедрения этики ИИ по замыслу.

Опять же, среди этих корпоративных заявлений наблюдается замечательная согласованность с точки зрения передовой практики и этических принципов, которые они поддерживают. Каждая торговая ассоциация или корпоративный набор руководств тесно связаны с основными ценностями, определенными в сотнях других структур мягкого права, которые исследовали ученые ASU. Эти усилия имеют большое значение для содействия развитию культуры ответственности среди ведущих новаторов в области ИИ. Мы можем думать об этом как о профессионализации лучших практик ИИ.

О чем забывают критики мягкого права

Некоторые утверждают, что усилий «на местах» в области мягкого права недостаточно, но обычно они делают две ошибки, говоря это.

Их первая ошибка заключается в том, что они думают, что жесткие законы практичны или даже оптимальны для быстро развивающихся, очень переменчивых технологий искусственного интеллекта и машинного обучения. Дело не только в том, что проблема темпа требует нового осмысления управления. Критики не понимают, как жесткий закон может значительно подорвать алгоритмические инновации, потому что алгоритмические системы могут меняться каждую минуту и ​​по самой своей природе требуют более гибкой и адаптивной системы управления.

Это основное направление моей книги, и ранее я опубликовал черновик главы из своей книги Правильное управление по умолчанию для ИИ и еще одно эссе на тему Почему будущее ИИ не будет изобретено в Европе. Эти эссе объясняют, почему режим регулирования алгоритмических систем, ориентированный на принцип предосторожности, задушит технологическое развитие, подорвет предпринимательство, снизит конкуренцию и глобальные конкурентные преимущества и даже окажет пагубное влияние на наши цели в области национальной безопасности.

Традиционные системы регулирования могут быть чрезмерно жесткими, бюрократическими, негибкими и медленно адаптироваться к новым реалиям. Они сосредоточены на превентивных мерах, направленных на предсказание будущего и будущих гипотетических проблем, которые могут никогда не возникнуть. Что еще хуже, административное регулирование, как правило, предотвращает или запрещает полезные эксперименты, которые приводят к новым и лучшим способам ведения дел. Когда новаторы должны получить специальное разрешение, прежде чем предлагать новый продукт или услугу, это повышает стоимость открытия нового предприятия и препятствует деятельности, приносящей пользу обществу. Нам нужно избегать такого подхода, если мы надеемся максимально использовать потенциал технологий на основе ИИ.

Вторая ошибка, которую совершают критики «мягкого права», заключается в том, что они не понимают, сколько механизмов «жесткого права» на самом деле играют роль в поддержке управления «мягким правом». Приложения ИИ уже регулируются целым рядом существующих правовых политик. Если кто-то делает что-то глупое или опасное с системами ИИ, Федеральная торговая комиссия (FTC) имеет право бороться с «несправедливой и вводящей в заблуждение практикой» любого рода. Генеральные прокуроры штатов и агентства по защите прав потребителей штатов также регулярно борются с недобросовестной практикой и продолжают продвигать свои собственные политики конфиденциальности и безопасности данных, некоторые из которых часто являются более строгими, чем федеральный закон.

Между тем, несколько существующих регулирующих органов в США обладают полномочиями по расследованию и отзыву, что позволяет им удалять продукты с рынка, когда проявляются определенные непредвиденные проблемы. Например, Национальное управление безопасности дорожного движения (NHTSA), Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) и Комиссия по безопасности потребительских товаров (CPSC) обладают широкими полномочиями по отзыву, которые можно использовать для устранения рисков, возникающих во многих алгоритмических или роботизированных системах. . Например, NHTSA в настоящее время использует свои следственные полномочия для оценки заявлений Tesla о технологии полного автономного вождения, и агентство имеет право принять меры против компании в соответствии с существующими правилами. Точно так же FDA использовало свои широкие полномочия, чтобы расправиться с компанией 23andme, занимающейся генетическими тестами, много лет назад. А CPSC и FTC имеют широкие полномочия по расследованию заявлений новаторов, и они уже использовали их. Дело не в том, что нашему экспансивному регулирующему государству не хватает значительной существующей власти для контроля над новыми технологиями. Во всяком случае, власть административного государства слишком широка и аморфна, и в некоторых случаях ею можно злоупотреблять.

Возможно, наиболее важно то, что наша система общего права может устранять другие недостатки с помощью систем и приложений на основе ИИ, используя закон о дефектах продукции, деликты, договорное право, право собственности и коллективные иски. Это лучший способ устранения рисков по сравнению с упреждающим регулированием технологии искусственного интеллекта общего назначения, потому что он, по крайней мере, позволяет технологиям сначала развиваться, а затем видеть, какие реальные проблемы проявляются. Лучше относиться к инноваторам как к невиновным, пока их вина не будет доказана, чем наоборот.

Есть и другие острые вопросы, которые заслуживают серьезного политического рассмотрения и, возможно, даже введения некоторых новых правил. Но то, как учитываются риски, имеет большое значение. Прежде чем мы прибегнем к деспотичным, юридическим решениям возможных проблем, мы должны сначала исчерпать все другие потенциальные средства правовой защиты.

Другими словами, правительственные механизмы мягкого права «на местах» и юридические решения ex post должны, как правило, превосходить «предварительные (упреждающие, предупредительные) нормативные ограничения». Но мы должны искать способы усовершенствовать и улучшить инструменты управления «мягким правом», возможно, за счет более эффективных режимов добровольной сертификации и аудита, чтобы требовать от разработчиков высоких стандартов, поскольку это относится к важным этическим практикам ИИ, которые мы хотим, чтобы они поддерживали. Это путь к достижению ответственных инноваций в области искусственного интеллекта без тяжелого багажа, связанного с более формальными, негибкими подходами к регулированию, которые плохо подходят для сложных, быстро развивающихся вычислительных и вычислительных технологий.

___________________

Похожая литература автора по искусственному интеллекту и робототехнике