Слишком часто можно прочитать статью или посмотреть презентацию гуру искусственного интеллекта (ИИ), которые дают аудитории мрачный прогноз на будущее технологии — роботы будут разумными, и, конечно же, они решат либо убить, либо поработить всех людей. Другими словами, это только вопрос времени, когда наши повелители роботов обрекут нас всех, и мы мало что можем сделать.

Эти пророки конца света всегда приводят три обоснования своих предсказаний:

(1) Системы с искусственным интеллектом становятся все более и более интеллектуальными и уже превзошли человеческий интеллект в некоторых приложениях. Например, системам ИИ удалось обыграть чемпионов мира в шахматах и ​​матчах по го.

(2) Развитие искусственного интеллекта и машинного обучения ускорилось до точки невозврата и в конечном итоге позволит большему количеству систем стать полностью автономными.

(3) Модели ИИ стали настолько сложными, что даже специалисты по данным, которые их разрабатывают, не понимают, как эти модели работают и принимают решения.

Рассмотрим подробно каждый из этих аргументов.

Аргумент Судного дня №1: ИИ лучше людей

Системы искусственного интеллекта и машинного обучения существуют уже некоторое время и приносят гораздо больше пользы, чем вреда. Например, кредитная индустрия уже не менее трех десятилетий использует машинное обучение для кредитного скоринга, чтобы предлагать кредиты и ипотечные кредиты в большинстве промышленно развитых стран. Эта автоматизация привела к тому, что ссуды и кредитные карты стали доступными для гораздо более широкого сегмента общества, чем, скажем, в 1960-х или 1970-х годах. Это также сделало процесс более быстрым, точным и безопасным.

Может быть трудно принять тот факт, что даже лучший в мире чемпион по шахматам или го не может победить компьютеры. Так что да, ИИ и машинное обучение могут превзойти людей в определенных задачах, но этот факт не обязательно должен иметь негативный оттенок. Если люди выполняют задачи, из-за которых они совершают ошибки и причиняют вред другим людям, мы должны побуждать инженеров и разработчиков создавать системы, которые лучше выполняют эти задачи. Сегодня у нас есть необходимые меры безопасности, которые позволяют людям вмешиваться и модифицировать автоматизированные системы, чтобы предотвратить злоупотребления и предвзятость, а также защитить тех, чьи данные подпадают под статус выбросов.

Аргумент Судного дня № 2: уже слишком поздно

Второй момент, касающийся темпов развития ИИ и машинного обучения, должен быть не поводом для беспокойства, а скорее поводом отпраздновать и поддержать этот прогресс. Мы все извлекли пользу из автоматизированных систем, которые работали не менее двух десятилетий при анализе медицинских тестов, особенно в отношении мониторинга и скрининга пациентов на наличие хронических заболеваний и состояний, таких как высокий уровень холестерина или диабет. Большинство лабораторных работ и отчетов сегодня создаются автоматически с помощью ИИ и машинного обучения, которые предупреждают врачей и пациентов об аномальных или заслуживающих внимания результатах. Эти системы основаны на статистических моделях и моделях машинного обучения, которые анализируют большие объемы данных, собранных в течение длительного времени, и сопоставляют и определяют конкретные условия с результатами тестов. Эти автоматизированные системы превосходят врачей-людей в определении проблемных областей, на которых врачи должны сосредоточиться. Опять же, в этом примере эти модели могут принимать медицинские решения быстрее и точнее, чем когда-либо прежде, и освобождают врачей от необходимости вручную анализировать каждый результат теста, который попадает на их стол. Все, кто участвует в этом процессе, получают выгоду от этих технологических достижений.

Подводя итог вышеизложенному, можно сказать, что ускоренное внедрение моделей искусственного интеллекта и машинного обучения — наряду с необходимой технологией развертывания — принесло пользу обществу во многих областях, пока люди всегда пересматривают и проверяют решения, принимаемые этими интеллектуальными системами.

Аргумент Судного дня №3: искусственный интеллект слишком сложен

Последняя проблема, которую часто поднимают сторонники искусственного интеллекта, — это повышенная сложность моделей машинного обучения и систем искусственного интеллекта, даже для лучших в мире ученых и разработчиков данных. Из-за этой сложности, говорят пророки, даже самые яркие умы мира не могут разобраться в том, что происходит в системах искусственного интеллекта и машинного обучения.

Конечно, любой достойный ученый данных не допустит такого сценария. Специалисты по обработке и анализу данных сегодня разработали и внедрили технологию Объяснимый ИИ, которая дает пользователям точное представление о том, как эти модели принимают решения и собирают данные. Поставщики технологий искусственного интеллекта, такие как Altair, включили богатую коллекцию таких инструментов в свои программные предложения, например, в Altair Knowledge Studio. Из-за важности этой темы поставщики, такие как Altair, постоянно инвестируют в разработку инструментов и интерфейсов, которые упрощают для любых пользователей понимание и изменение моделей ИИ и машинного обучения. Некоторые из этих инструментов заходят так далеко, что объясняют обоснование принятия решений по каждой точке данных.

Превращение ИИ в силу добра

Мы можем развенчать все аргументы конца света с помощью приведенных выше рассуждений по трем простым причинам, которые объясняют, почему ИИ и машинное обучение являются силой добра, и как мы можем гарантировать, что они останутся такими:

(1) ИИ и технологии машинного обучения следует применять в тех областях общества, где они обеспечивают более качественные услуги и предоставляют большему количеству людей доступ к услугам, которых у них раньше не было. Более того, ИИ и машинное обучение должны использоваться на благо общества, а законы и законодательство должны гарантировать справедливое, равноправное и прозрачное использование данных.

(2) Модели искусственного интеллекта и машинного обучения должны быть объяснимы. Наука и технологии, которые позволяют объяснять модели искусственного интеллекта и машинного обучения, существуют и полностью разработаны в открытом и коммерческом программном обеспечении. Организации, использующие технологии искусственного интеллекта и машинного обучения, должны использовать объяснимые инструменты и методы искусственного интеллекта в качестве обязательных шагов в своей практике обработки данных.

(3) Люди должны иметь последнее слово в принятии важных решений, а системы развертывания должны позволять человеку отменять действия, чтобы гарантировать принятие ответственных, безопасных и справедливых решений. Эти меры безопасности должны быть обязательным элементом в критических системах, которые могут привести к причинению вреда людям или имуществу. Эти меры безопасности и переопределения также потребуют объяснимых возможностей искусственного интеллекта, чтобы определять время и обстоятельства вызова переопределений.

Как и любая технология, изменившая отношения между человеком и машиной в прошлом, искусственный интеллект и машинное обучение станут катализатором больших перемен, а с переменами приходит страх перед неизвестным. Однако мы считаем, что при дисциплинированном и ответственном внедрении технологий, а также при соблюдении законов и передового опыта, ИИ и машинное обучение окажутся полезными для человечества, как и предыдущие основные технологии, которые изменили жизнь на протяжении всей истории.