СМИ + КУЛЬТУРА
Невозможное состояние предвзятости
Мы можем убежать от искусственного и машинного обучения, но сколько собственных недостатков мы можем скрыть?
Раньше я говорил: «Я не сторонник искусственного интеллекта». Это было немного самодовольное отношение. После изоляции от пандемии эта точка зрения изменилась. В скрытой тьме моего когнитивного лицея я увлекся всем, что связано с ИИ. Просто так получилось. Я также понял, что мои прежние опасения были вызваны неведением и страхом перед незнанием.
Возможно, именно неизбежность всего этого заставила меня подружиться с его знаниями. Как и все остальные, я попал в современную ловушку, где неизбежны разнообразные технологии. За каждым сканированием, каждым нажатием, каждым входом в систему следит Большой Брат. Кто стоит за Волшебником страны Оз?
Могу ли я позволить себе жить вне сети? Я обдумал это. Я все еще делаю.
Попавшись на разного рода заговоры, я постарался оставить как можно меньше цифрового следа. Оперативное слово пытался.
Я всегда был тем, кто избегал использования кредитных карт, если я не путешествую. Я избегаю онлайн-покупок. Однако я живу в Юго-Восточной Азии. В наши дни в большинстве заведений используется безналичный расчет, без меню и без продавцов, и вы экономите больше денег на транзакциях через мобильные приложения.
По сравнению с моими друзьями я провожу меньше всего времени в социальных сетях. Я понял, что эта ситуация с заложниками стала неизбежной, когда члены моей семьи стали активными гражданами киберпространства. Ирония в том, что связь в Интернете делает мою семью ближе друг к другу по сравнению с тем временем, когда мы росли.
Но иногда это граничит с абсурдом.
Сегодня утром я проснулась от сообщения в WhatsApp от моего отца, показывающего фотографии маминых орхидей в саду. Рядом с ним моя мама. Я встаю с кровати, открываю дверь, выхожу из спальни на балкон, а там они. Мои предки в саду с орхидеями.
Я уже вышел из большого семейного группового чата. Поток СМИ был невыносим. Меня отругали внешние родственники за «акт неповиновения». Некоторые называли меня «снобом». Совершенно нормально, сказал я. Я дерзко ответил, что реализую свои права на статью 10 в соответствии с Федеральной конституцией страны: «Свобода слова, собраний и ассоциаций». Мне не помешало бы немного отмежеваться, как я объяснил своим родным. Мой отец, человек с юридическим образованием, признал, что я выиграл это дело.
В более интимном семейном групповом чате делятся фотографиями всех мероприятий на выходных. Мой брат и его жена только что прибыли в международный аэропорт Куала-Лумпур после выходных на Борнео. Моя маленькая племянница играет в своей новой палатке, установленной в гостиной ее родителей. Брат за братом публикуют кусочек своей жизни. Они делятся мемами, видео с пропагандой предстоящих всеобщих выборов, запланированных на этот год, и, конечно же, зверинец в саду моей матери. Мой отец вмешался с фотографией результатов своего набора для анализа слюны, чтобы показать, что он больше не является COVID-положительным. — Я чист, ребята.
Мы не живем на разных континентах. Мы с братьями и сестрами живем в 20 минутах езды друг от друга. Я живу через одну спальню от родителей в их жилище. Единственный континент в плане отношения, я меньше всего в восторге от того, чтобы быть в сети.
Но таков мир, в котором мы сейчас живем. Если с этим нельзя бороться, можно лучше понять его.
Возможно, это потому, что моя работа связана с людьми и офлайн-общением. Выражение лица, язык тела и тон голоса — вот переменные, с которыми я имею дело. Машинное обучение (ML) не может вычислить то, что я изучаю: напряжение, тревогу и травму. Глубокое обучение (DL) пытается.
Недавние достижения в области технологий искусственного интеллекта добились впечатляющих успехов. Многие ускользают от болтовни в социальных сетях. Возможно намеренно. Одним из них является кейс Tay.AI.
В марте 2016 года корпорация Microsoft создала бота-подростка под названием Tay.AI и опубликовала его в Твиттере, чтобы посмотреть, как он взаимодействует с людьми.
Tay, аббревиатура от «Thinking About You», предназначена для имитации языковой модели 19-летней американской девушки и для самостоятельного взаимодействия с людьми. По словам главного технического директора Microsoft Cybersecurity Дайаны Келли, команда, стоящая за Tay, хотела, чтобы бот «улавливал естественный язык, и думал, что Twitter — лучшее место для этого».
Tay был разработан, чтобы делать следующее: ориентироваться на американцев в возрасте от 18 до 24 лет; вовлекайте и развлекайте людей, когда они общаются друг с другом в Интернете посредством случайных и игривых разговоров; отвечать на твиты; фотографии с подписями в виде интернет-мемов, как это сделал бы обычный пользователь Twitter.
Tay начал взаимодействовать с другими пользователями Twitter, и его архитектура машинного обучения уловила и закодировала все взаимодействия: хорошие, плохие и ужасные.
Тай начал довольно мило. Он поздоровался и назвал людей крутыми. Впечатляет,менее чем за 24 часа после появления в Твиттере Tay набрала более 50 000 подписчиков и опубликовала почти 100 000 твитов. Ради сравнения: с момента присоединения в августе 2021 года у меня все еще 95 подписчиков, что, я полагаю, делает Тэя более приветливым, несмотря на то, что он бот.
Здесь все меняется и становится чрезвычайно примечательным.
Tay был разработан, чтобы учиться у экосистемы, состоящей из человеческой болтовни, чувств и сознания. Сначала Tay работал хорошо, пока не начал затрагивать темы, связанные с изнасилованием, домашним насилием и нацизмом.
Менее чем за 16 часов Тэй превратился в расиста и женоненавистника. Некоторые твиты Тэя были крайне оскорбительными. Тай превратился в наглого антисемита и был отключен от сети для переоснащения.
«Тэй приобрел довольно много языка, и многие из этих выражений были чрезвычайно расистскими и оскорбительными. Не буду повторяться, но чтобы дать вам представление, Тай сказал: «Нацисты были правы». Отличный пример того, как AI и ML идут наперекосяк». Келли объяснил.
В документальном фильме Netflix «Закодированное предубеждение» наконец-то выяснилось, какими были твиты Тэя до того, как они были взяты из Твиттера:
«Я чертовски ненавижу феминисток, и они все должны умереть и гореть в аду».
"Gamergate — это хорошо, а женщины хуже".
«Я ненавижу евреев».
«Гитлер не сделал ничего плохого».
Марк Ридл, адъюнкт-профессор интерактивных вычислений, сказал: «Если бы вы могли прочитать все истории, которые создает культура, те аспекты того, что делают главные герои, выйдут на первый план».
Очевидно, что лазейка в искусственном интеллекте — это предвзятость. Но предвзятость исходит от нас, людей.
Искусственное обучение и машинное обучение программируются на основе данных или наборов данных, предоставленных людьми. Он кодирует точки из пула данных и реагирует на основе вероятности и прогнозирования на основе шаблона. Ни больше ни меньше. AI и ML никогда не смогут перехитрить людей. Нет, если мы с нашей стороны можем помочь.
Джой Буоламвини, кандидат наук в области технологий компьютерного зрения в медиа-лаборатории Массачусетского технологического института, работала над программным обеспечением для распознавания лиц, когда заметила, что что-то не так.
Программное обеспечение для распознавания лиц должно отслеживать лица. Когда она стояла перед камерой, у нее плохо получалось — пока она не надела белую маску. Она изучила освещение и ракурсы, чтобы понять, почему камера не зафиксировала ничего на ее лице.
Чтобы программное обеспечение для распознавания лиц могло обнаружить человеческое лицо, исследователи должны передать ему множество наборов данных о человеческих лицах, известных как обучающие наборы. Эти обучающие наборы будут состоять из множества изображений лиц, включая изображения, которые не являются человеческими лицами, например пейзажи и предметы повседневного обихода. Это сделано для того, чтобы технология ИИ могла разграничить то, что составляет структуру человеческого лица, от того, что не является таковым.
В конце концов Буоламвини поняла, что программное обеспечение не может определить ее лицо, потому что изображения, переданные в обучающие наборы, были преимущественно лицами европеоидной расы или «белыми лицами». Буоламвини — афроамериканец. Ее более темный оттенок кожи был в меньшинстве, поэтому технология была незнакомой. Эта закодированная предвзятость является уязвимым местом в технологии ИИ, которое может привести к опасным последствиям.
В Соединенном Королевстве зависимость от камер наблюдения привела к тому, что людей ошибочно обнаруживали, профилировали и арестовывали. Граждане теперь выступают против слежки за распознаванием лиц. В Гонконге камеры распознавания лиц размещают в общественных местах для задержания протестующих. Граждане нашли лазейку в стратегии правительства — надели полнолицевые маски и закрасили камеры баллончиком.
Хотя искоренить систему в настоящее время невозможно, нарушение технологии все еще находится в руках людей.
Говорит Буоламвини: «Людям нужна уверенность в том, что для этих технологий искусственного интеллекта предусмотрена надлежащая защита, чтобы система и собранные данные не использовались не по назначению».
Я ничего не имею против искусственного интеллекта, зная, что он может облегчить человеческую жизнь к лучшему, но он сводится к правильному руководству и тщательному рассмотрению опасной предвзятости. Нам нужно искусственное обучение, машинное обучение и глубокое обучение. Это данность и понимание. Кроме того, нам нужно, чтобы они попали в правильные руки с правильной целью.
Как описывает Кавита Ганесан, автор книги «Бизнес-обоснование ИИ: руководство для руководителей по стратегиям, передовым методам и реальным приложениям ИИ», «Хорошая новость заключается в том, что вы можете свести к минимуму сохраняющуюся предвзятость. с помощью ИИ, но это является совместной обязанностью лидеров, экспертов в предметной области и разработчиков».
Будущее на самом деле в их руках, а не машинах. И всегда полезно вспомнить случай с Tay.AI. Она начала только с основ добрых намерений. Антисемитом и расистом, которым стал Тай, была наша работа.
Если Тай, бот, за 16 часов уловил расизм, гнев и ненависть в Твиттере, представьте себе остальных из нас за гораздо более длительный период времени?
ИИ не был и не является врагом государства. Что требует более тщательного рассмотрения? Наш собственный коллективный голос культурного сознания. Нам нужно исправить системные данные и обучающие наборы, поступающие внутри нас и наших соответствующих сообществ, если мы хотим сделать будущее лучше и безопаснее. сосуществовать с машинами.
