Функція Apple, призначена для захисту дітей від сексуального насильства, може завдати дітям шкоди, повідомляє видання Scientific American.
Нещодавно компанія Apple випустила три нові функції для захисту дітей під час спілкування в інтернеті. Одна з них, під назвою «Безпека спілкування в повідомленнях», буде сканувати особистий чат в iMessages людей віком до 13 років, щоб ідентифікувати та скрити від дітей зображення сексуального характеру. А також, щоб повідомити батькам про небезпеку, якщо їх дитина отримає або відправить подібне зображення. Виглядає ця функція безпечно і, на перший погляд, це хороший спосіб зменшити ризики сексуального домагання. Але насправді це може принести більше шкоді, ніж користі.
Хоча Apple бажають допомогти батькам забезпечити своїм дітям безпеку, контроль батьків може завдати дітям шкоди. ЛГБТК+ молодь досить часто перебуває під ризиком батьківського насильства та жорстокої поведінки. Тому вони знаходять розраду в інтернет-спілкуванні та можуть надсилати або отримувати фото сексуального характеру від своєї пари. Оскільки система виявляє такі фото та повідомляє батькам про дії сексуального характеру їх дітей, то це може призвести до насильства над дітьми через їх сексуальну орієнтацію.
Також не зрозуміло, наскільки добре буде працювати ця технологія, і що саме виявить. Деякі алгоритми виявлення сексуального вмісту знаходять його на основі показу певного відсотка шкіри на фото. Наприклад, алгоритм може позначити фотографію матері та дочки на пляжі у купальних костюмах як фото сексуального характеру. Якщо двоє молодих людей відправлять один одному фотографію зі знаменитістю у відкритому одязі, їхні батьки можуть бути сповіщені про це.
Ці питання алгоритмічної точності викликають занепокоєння, оскільки молодь може бути проти цієї функції, через втручання в їх особисте життя. Навіть, якщо підлітки хочуть просто обмінятися фото в купальниках, ця функція може їм завадити це зробити. Маючи цю функцію, компанія позбавить молодь права на конфіденційність. Крім того, ця функція дає доступ до більш ширшого втручання у приватні повідомлення, заключаю журналісти.
