Quran
Спарш Ахуджа
Созданный в исследовательских лабораториях Кремниевой долины искусственный интеллект (ИИ) глубоко укоренился в светских идеалах о прогрессе. Поскольку ИИ приобретает глобальную популярность, сторонники различных этических традиций тщательно изучают данный вопрос, часто призывая к более строгому регулированию технологий. В частности, мусульманские исследователи возобновили давнюю дискуссию об отношениях между современным либерализмом и исламом. Можно ли позволять алгоритмам играть в Бога?
25 июня 2020 года Facebook объявил победителей инициативы на тему «Вопрос этики в исследовании искусственного интеллекта в Азиатско-Тихоокеанском регионе» (Ethics in AI Research Initiative Asia Pacific) с грантом в размере 25 000 долларов США на поддержку интеграции разнообразных традиционных знаний со всего мира в исследования искусственного интеллекта.
В числе избранных исследователей ― доктор Джунейд Кадир (Dr Junaid Qadir) и Амана Ракиб (Amana Raquib), два пакистанских академика, которые исследуют, как этические и правовые принципы ислама могут использоваться для регулирования ИИ в мусульманских странах.
«Ислам исповедует этические традиции, насчитывающие более 1400 лет, ― говорит Кадир, заведующий кафедрой электронной инженерии в Университете информационных технологий Лахора. ― В ИИ недостаточно представлены два миллиарда человек, исповедующих данные вероубеждения. Наша работа восполнит этот пробел».
По словам Кадира и Ракиб, либеральное регулирование технологий ускорило моральный кризис в исламском мире, где, по их мнению, колониальные ценности вытеснили местное мировоззрение.
«Большая часть достижений, имевших место за последнее столетие, была навязана мусульманам, а не была создана с мусульманами, ― утверждает Ракиб, профессор философии и этики в Институте делового администрирования Карачи. ― В результате никто не задается важнейшим вопросом о том, зачем, в первую очередь, нам нужны эти технологии».
Один из вопросов, на который они пытаются ответить: допустимо ли с точки зрения Ислама использование ИИ для продления жизни? В настоящее время здравоохранение является крупнейшим драйвером инвестиций в ИИ: в 2019 году медицинские стартапы с ИИ привлекли финансирование на сумму более 4 миллиардов долларов (3,08 миллиарда фунтов стерлингов). Исследователи долголетия теперь утверждают, что носимые устройства с встроенным ИИ могут предвидеть биомаркеры старения раньше, чем традиционная медицина, что позволяет принимать профилактические меры для остановки этого процесса.
И все же Ракиб настроена скептически.
«В исламе продление жизни — это не то, что ценится само по себе. Количество прожитых лет нужно соизмерять с морально-духовной борьбой, которую можно было бы предпринять в течение этих лет, ― комментирует она. ― Во время этой пандемии мусульмане даже бились над вопросом допустимости использования аппаратов ИВЛ. Некоторые считают, что для смерти есть время, и вы не можете его откладывать».
Еще один спорный вопрос касается беспилотных автомобилей. Когда я спросил Кадира, как автомобиль, «мыслящий» категориями ислама, мог бы отреагировать, если ему придется выбирать между наездом на пешехода и столкновением и убийством водителя ― популярный мыслительный эксперимент в кругах исследователей ИИ, ― он ответил, что это неправильный вопрос. Он считает, что ИИ следует проектировать таким образом, чтобы он не был вредоносным, ― прежде всего, он не должен причинять вреда. Этот критерий в исламе называется «фалах», или духовный успех, сообразно кораническим предписаниям, который, по словам ученых, существенно отличается от западного подхода, ориентированного на прибыль. Его следует рассматривать как основу при оценивании любой новой технологии ― даже если, как утверждает Кадир, это влечет за собой задержки в разработке идей или даже их откладывание на полку.
«Действительно ли полезно иметь устройство, которое предлагает вам на выбор только несущие вред варианты?» ― спрашивает он.
Не все разделают эту точку зрения. Д-р Мухаммад Аурангзеб Ахмад (Dr Muhammad Aurangzeb Ahmad), доцент Вашингтонского университета, изучающий целесообразность применения ИИ в здравоохранении, считает, что реализация любого алгоритма подразумевает компромиссы.
«Как ИИ, так и человек-врач работают с ограниченными ресурсами: у больницы есть бюджет, а это, к сожалению, означает, что не всем можно спасти жизнь, — говорит он. — Единственная разница в том, что врач будет работать с локальной, возможно, несовершенной информацией, а ИИ [работает] с огромным набором данных, в идеале позволяющим более оптимально оценивать риски».
Для него «фалах» — это не столько критерий того, какой ИИ разрешить, сколько вопрос того, какие результаты он должен дать.
«Я согласен с тем, что алгоритм фалах-оптимизации максимизирует спасение жизней, а не прибыль, но это не означает, что ограниченность ресурсов исчезнет. Тогда возникает настоящий этический вопрос: кого это спасает?» ― говорит Ахмад.
Данная проблема близка его сердцу:
«Мой собственный отец скончался семь лет назад, когда отказался от реанимационного аппарата. Но я не верю, что это точка зрения, преобладающая в исламе».
Тот же принцип применяется и к беспилотным автомобилям: сбалансированный учет негативных факторов, по мнению Ахмада, является процессом, присущим исламскому учению. Более того, исламский правовед Аль-Газали задал вопрос, ставший еще в XI веке предшественником «проблемы вагонетки» (мысленный эксперимент в этике, — прим. ред.). Он спросил своих учеников, можно ли оправдать человека, сбросившего некоторых пассажиров с тонущего корабля, если это означало бы спасение жизни большинства.
Ахмад отмечает, что «проблема вагонетки» может даже недооценивать ситуацию с беспилотными автомобилями, потому что они не учитывают статус-кво ― человека-водителя.
«Скажем, у нас 100 000 смертельных случаев на дорогах в год из-за плохих водителей — мы могли бы вдвое сократить это количество с помощью транспортных средств с искусственным интеллектом. Возможно, отсутствие беспилотных автомобилей — это глубоко аморально».
Прямо сейчас может показаться, что исламский мир поддерживает ИИ, по крайней мере, если учитывать голосование по кошельку: популярность аппаратов ИВЛ, антивозрастных продуктов и Uber только растет на Ближнем Востоке. Однако Кадир и Ракиб по-прежнему работают над решением задач и вызовов, которые ставит перед исламским миром ИИ.
«Этот проект инициирует диалог, ― говорит Ракиб. ― Мы уже посреди океана, но нам нужно заново отстроить корабль».
Источник: Wired
Add new comment