3 причины, почему искусственный интеллект не примет за вас решение — по крайней мере, пока

В продолжение темы, от чего большие данные, машинное обучение и другие методы искусственного интеллекта смогут защитить человечество, сегодня мы поговорим, почему эти технологии не заменят человека везде и полностью. В этой статье мы собрали доводы против абсолютной автоматизации принятия управленческих решений с помощью Big Data и Machine Learning.

Когда Big Data, Machine Learning и прочие средства искусственного интеллекта заменят человека и почему это случится далеко не везде

Мы уже рассказывали, что наиболее сложный уровень аналитики больших данных – это даже не построение вероятных прогнозов ближайшего или отдаленного будущего, а выработка подробных рекомендаций. Ожидается, что повсеместное внедрение Big Data и Machine Learning в различные прикладные процессы автоматизируют выполнение менеджерских функций, от поддержки управленческих решений, до их полного выполнения. Достичь такого уровня цифровизации планируется с помощью систем предписывающей (предиктивной) аналитики [1].

Однако, на практике не стоит ожидать, что человек полностью делегирует все задачи управления искусственному интеллекту, отдавая таким образом власть и снимая с себя ответственность за принятые решения. Этому есть, по крайней мере 3 причины:

• необъяснимость – для большинства обывателей технологии Big Data и Machine Learning, реализованные в виде приложений, представляются как «вещь в себе» — черный ящик, внутри которого происходит неясная магия. Более того, излишняя прозрачность модели, работа которой описана в простых и понятных терминах, может еще больше запутать пользователей. При этом даже у ИТ-специалистов возникают когнитивные искажения, когда они пытаются объяснить явные ошибки алгоритма. Поэтому, даже в случае создания так называемого «объяснимого искусственного интеллекта», который будет описывать, на каком основании принято то или иное решение, люди будут или чрезмерно доверять машине или, наоборот, саботировать ее рекомендации, т.к. не понимают принципов ее работы [2].

• ответственность (юридическая, социальная и уголовная). В настоящее время беспилотные автомобили и другие самоуправляемые механизмы (дроны, скоринговые модели и антифрод-системы на базе Big Data и Machine Learning) только начинают использоваться автономно. Еще не разработаны нормы и правила, кто или что именно будет отвечать, если, например, в аварии виноват беспилотный автомобиль под управлением искусственного интеллекта. Например, в автомобилях Mazda 4-го поколения (модельный ряд 2019 и 2020 годов) обнаружились баги в интеллектуальной тормозной системе. Машина находит на своем пути несуществующий объект и резко тормозит. На реальной дороге такое поведение может привести к авариям [3]. Разумеется, часть проблем по ликвидации ущерба возьмет на себя страховая компания. Остается вопрос, как быть с административной или уголовной ответственностью? Как точно идентифицировать, что дефект случился из-за некорректно построенной модели Machine Learning, экстремальных дорожных условий, не вошедших в обучающий датасет или других внешних факторов, которые не предусмотрел Data Scientist? А, может, сбой в программе произошел из-за ошибки разработчика или даже архитектора Big Data системы, который неграмотно спроектировал и разделил ее на микросервисы согласно Agile–подходу? Наконец, как определить степень вины пользователя, который делегировал управление машине и не перехватил его в критический момент? Кроме того, стоит учитывать возможность внешней атаки, когда умный автомобиль был взломан злоумышленниками [4]. В других сферах, где также активно планируется использовать искусственный интеллект, ситуация не лучше. В частности, кто отвечает, если алгоритм Machine Learning поставил неверный диагноз или в результате операции, которую проводил медицинский робот-манипулятор [5], умер пациент? Пока такие вопросы остаются без однозначных ответов, а ответственность по-прежнему лежит на человеке, делегировавшему «умной» машине принятие решений. Не случайно, при наличии автопилота, в каждом самолете до сих пор есть возможность ручного управления, которой регулярно пользуются командиры воздушного судна, спасая жизни пассажиров в критических ситуациях [6].

• наконец, человек пока лучше любой искусственной нейросети или другого метода Machine Learning принимает решения в нестандартной ситуации, неявно экстраполируя на нее свой жизненный опыт из других предметных областей. В частности, в сфере HR уже не первый год используются системы искусственного интеллекта, которые помогают менеджеру по персоналу набирать линейных работников на массовые позиции с однообразными функциями. Например, о некоторых таких случаях мы писали здесь. Однако, руководители высшего звена и сотрудники творческих профессий по-прежнему оцениваются вручную, т.к. очень сложно формализовать личностные качества (харизматичность, целеустремленность, эмоциональный интеллект и пр.), на которых основана работа таких людей [7].

Таким образом, мы снова приходим к выводу, что предиктивная и предписывающая аналитика на базе больших данных, машинного обучения и прочих методов искусственного интеллекта – пока всего лишь инструменты, облегчающие человеку выполнение рутинных задач. О том, какие из этих технологий будут наиболее востребованными в ближайшее время, мы рассказываем в новой статье. А как эффективно использовать их своем бизнесе, вы узнаете на наших образовательных курсах в лицензированном учебном центре обучения и повышения квалификации руководителей и ИТ-специалистов (менеджеров, архитекторов, инженеров, администраторов, Data Scientist’ов и аналитиков Big Data) в Москве:

• Аналитика больших данных для руководителей

Источники

1. https://iot.ru/promyshlennost/kakaya-analitika-nuzhna-vashey-kompanii
2. https://m.habr.com/ru/post/488998/
3. https://habr.com/ru/news/t/482388/
4. https://bespilot.com/chastye-voprosy/kto-otvechaet-esli-ba-popadet-v-avariyu
5. https://mhealthcongress.ru/ru/article/vozmognosti-ii-v-meditsine-primeri-primeneniya-96282
6. https://meduza.io/feature/2019/05/17/operatory-samoleta
7. https://navicongroup.ru/press-room/publication/4279/