Сможет ли когда-нибудь искусственный интеллект заменить человеческое усмотрение? Этот вопрос долгое время был предметом споров, и теперь инцидент с участием родителя, его ребенка и несколько фотографий, сделанных по медицинским показаниям, снова привлек внимание к этому вопросу.
Google использует автоматизированный инструмент для пометки оскорбительных изображений детей. Хотя у системы есть свои преимущества, она также может дать сбой и иметь серьезные последствия для вовлеченных лиц.
В одном из таких примеров, который New York Times опубликовала первой, отец-домосед из Сан-Франциско находится под следствием полиции после того, как сделал снимки и записал инфекцию на гениталиях своего сына.
Мужчина, которого опознали только по имени, заметил, что пенис его малыша причиняет ему боль и выглядит опухшим. Марк использовал свой телефон, чтобы щелкнуть фотографии для онлайн-консультации с врачом.
В то время как инфекция вскоре прошла благодаря антибиотикам, прописанным на основании этих фотографий, проблемы Марка не исчезли.
Хотя конкретная причина не была указана, в списке возможных причин, по которым это могло произойти, действительно были «сексуальное насилие и эксплуатация детей».
Озадаченная пара вспомнила эти фотографии и связалась с Google, чтобы прояснить ситуацию. Однако крупная технологическая фирма отказалась восстановить его учетную запись и в своем заявлении заявила: «Материалы о сексуальном насилии над детьми отвратительны, и мы стремимся предотвратить их распространение на наших платформах».
Расследование Департамента полиции Сан-Франциско возглавил Николас Хиллард, который в результате расследования пришел к выводу: «никакого преступления не было».
Однако, несмотря на то, что Марк отправил полицейский отчет в Google, технический гигант решил навсегда удалить его учетную запись. Этот шаг стоил сидящему дома отцу большого количества данных и почти всего его цифрового присутствия.
В похожем случае в Техасе у другого отца, Кассио, нечто подобное случилось со мной.
Согласно отчету, эти два случая — лишь капля в море. Технологические гиганты ежегодно выявляют миллионы изображений сексуального насилия или эксплуатации несовершеннолетних. Только Google в 2021 году сообщал о содержании жестокого обращения с детьми более 600 000 раз, что привело к приостановке действия аккаунта более 270 000 пользователей.
Теперь вы можете писать для bbabo.net и быть частью сообщества. Поделитесь своими историями и мнениями с нами здесь.
bbabo.Net