В Европе не будет массового распознавания лиц и систем социального рейтинга
Депутаты Европарламента большинством голосов приняли резолюцию о необходимости введения в ЕС полного и постоянного запрета на автоматическое распознавание лиц в общественных местах, так как подобные системы нарушают «неприкосновенность частной жизни и человеческое достоинство». Запрет также должен быть введен на создание любых систем социального рейтинга, прогнозирования преступлений и использование алгоритмов в судебной сфере.
Парламент также призвал запретить использование частных баз данных по распознаванию лиц, таких как система искусственного интеллекта американского стартапа Clearview (ее уже используют полицейские отдельных стран Европы), и объявить вне закона любые системы прогнозирования правонарушений, основанные на поведенческих данных.
Еще в апреле Еврокомиссия представила законопроект о регулировании использования технологий искусственного интеллекта с высокой степенью риска, который включал запрет на социальную оценку и принципиальный запрет на использование удаленного биометрического наблюдения в общественных местах. Однако Европейский совет по защите данных и Европейский надзорный орган по защите данных, а также ряд депутатов Европарламента сочли законопроект недостаточно проработанным.
В резолюции, принятой Европарламентом большинством голосов, в части о дистанционном биометрическом наблюдении содержится следующий призыв к Еврокомиссии:
… Необходимо запретить любую обработку биометрических данных, включая изображения лиц, в правоохранительных целях, ведущую к массовому слежению в общедоступных местах; Еврокомиссия должна прекратить финансирование биометрических исследований или развертывание программ, которые могут привести к неизбирательному массовому наблюдению в общественных местах.
Создание любых систем социального рейтинга, которые стремятся оценивать надежность граждан на основе их поведения или личности, должно быть также запрещено.
Резолюция направлена также на борьбу с алгоритмической предвзятостью и призывает к обязательному сильному надзору со стороны человека-оператора за работой алгоритмов с целью предотвращения дискриминации со стороны ИИ, особенно в работе правоохранительных органов и в контексте пересечения границ.
Депутаты Европарламента согласились с тем, что люди-операторы всегда должны принимать окончательные решения, заявив, что субъекты, контролируемые системами на базе искусственного интеллекта, должны иметь доступ к средствам правовой защиты.
Из резолюции следует, что для обеспечения соблюдения основных прав человека алгоритмы, использующие систем идентификации на основе ИИ, которые часто неверно идентифицируют этнические меньшинства, ЛГБТИ-людей, пожилых и женщин, должны быть прозрачными, отслеживаемыми и достаточно документированными.
Резолюция парламента призывает и к введению запрета на ИИ-помощников при принятии судебных решений — попытки внедрения таких алгоритмов в системе уголовного правосудия (в первую очередь при вынесении решений о досрочном освобождении осужденных) выявили многочисленные факты дискриминации нацменьшинств со стороны ИИ.
Европарламент также призвал госорганы ЕС использовать программное обеспечение с открытым исходным кодом везде, где это возможно.
Комментируя принятие резолюции, докладчик Петар Витанов сказал: «Основные права безусловны. Впервые мы призываем к мораторию на развертывание систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам. Мы категорически против прогнозирующей полицейской деятельности, основанной на использовании ИИ, а также против любой обработки биометрических данных, ведущей к массовому слежению. Это огромная победа для всех граждан Европы».
ХАЙТЕК
Парламент также призвал запретить использование частных баз данных по распознаванию лиц, таких как система искусственного интеллекта американского стартапа Clearview (ее уже используют полицейские отдельных стран Европы), и объявить вне закона любые системы прогнозирования правонарушений, основанные на поведенческих данных.
Еще в апреле Еврокомиссия представила законопроект о регулировании использования технологий искусственного интеллекта с высокой степенью риска, который включал запрет на социальную оценку и принципиальный запрет на использование удаленного биометрического наблюдения в общественных местах. Однако Европейский совет по защите данных и Европейский надзорный орган по защите данных, а также ряд депутатов Европарламента сочли законопроект недостаточно проработанным.
В резолюции, принятой Европарламентом большинством голосов, в части о дистанционном биометрическом наблюдении содержится следующий призыв к Еврокомиссии:
… Необходимо запретить любую обработку биометрических данных, включая изображения лиц, в правоохранительных целях, ведущую к массовому слежению в общедоступных местах; Еврокомиссия должна прекратить финансирование биометрических исследований или развертывание программ, которые могут привести к неизбирательному массовому наблюдению в общественных местах.
Создание любых систем социального рейтинга, которые стремятся оценивать надежность граждан на основе их поведения или личности, должно быть также запрещено.
Резолюция направлена также на борьбу с алгоритмической предвзятостью и призывает к обязательному сильному надзору со стороны человека-оператора за работой алгоритмов с целью предотвращения дискриминации со стороны ИИ, особенно в работе правоохранительных органов и в контексте пересечения границ.
Депутаты Европарламента согласились с тем, что люди-операторы всегда должны принимать окончательные решения, заявив, что субъекты, контролируемые системами на базе искусственного интеллекта, должны иметь доступ к средствам правовой защиты.
Из резолюции следует, что для обеспечения соблюдения основных прав человека алгоритмы, использующие систем идентификации на основе ИИ, которые часто неверно идентифицируют этнические меньшинства, ЛГБТИ-людей, пожилых и женщин, должны быть прозрачными, отслеживаемыми и достаточно документированными.
Резолюция парламента призывает и к введению запрета на ИИ-помощников при принятии судебных решений — попытки внедрения таких алгоритмов в системе уголовного правосудия (в первую очередь при вынесении решений о досрочном освобождении осужденных) выявили многочисленные факты дискриминации нацменьшинств со стороны ИИ.
Европарламент также призвал госорганы ЕС использовать программное обеспечение с открытым исходным кодом везде, где это возможно.
Комментируя принятие резолюции, докладчик Петар Витанов сказал: «Основные права безусловны. Впервые мы призываем к мораторию на развертывание систем распознавания лиц в правоохранительных целях, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам. Мы категорически против прогнозирующей полицейской деятельности, основанной на использовании ИИ, а также против любой обработки биометрических данных, ведущей к массовому слежению. Это огромная победа для всех граждан Европы».
ХАЙТЕК