По данным Комитета ООН по ликвидации дискриминации в отношении женщин, искусственный интеллект способен воспроизводить и усиливать гендерные стереотипы, а также различные формы дискриминации в отношении женщин. Особую озабоченность вызывает использование генеративного ИИ и ИИ-агентов в целях совершения насилия.
Угрозы, связанные с технологиями ИИ
В число угроз входят поддельные интимные видео и фото, а также случаи цифрового шантажа и кибертравли. Это касается не только сексуализированных изображений, но и целенаправленных атак на женщин, занимающих руководящие позиции в обществе, а также ситуаций, когда злоумышленники выдают себя за других людей.
Требования к государствам и платформам
- Государства должны регулировать системы ИИ и цифровые платформы.
- Платформы обязаны создать эффективные механизмы для жалоб и оперативного удаления дискриминационного и оскорбительного контента.
- Решения, принимаемые с помощью ИИ в сферах образования, трудоустройства, здравоохранения, финансового сектора и правосудия, должны быть прозрачными, проходить независимый контроль и проверку человеком.
