Instagram разпространява платени реклами насексуално насилие над деца в Индия

Разследване на екипа BBC Eye разкри, че социалната мрежа Instagram е публикувала платени реклами, които директно популяризират и предлагат материали със сексуално насилие над деца (CSAM) в Индия.

Основни разкрития от разследването

Рекламите в Instagram използват директни ключови думи като "видео с изнасилване" и "детско видео" и пренасочват потребителите към канали в приложението Telegram. Там педофилските материали се продават свободно за едва 99 рупии (около 1 щатски долар).

Журналисти създават фиктивен акаунт в Индия, след като забелязват, че Instagram агресивно предлага сексуално съдържание дори на потребители, които не са го търсили.

След като акаунтът започва да следва едва 10 профила на индийски инфлуенсърки с по-оскъдно облекло, алгоритъмът бързо ескалира. В рамките на седмица в потока от новини се появяват реклами на голи двойки, а дни по-късно – реклами с деца в сексуални ситуации с линкове към Telegram.

Общо акаунтът е залян с около 30 уникални реклами на детско насилие и 20 на порнография за възрастни (и двете дейности са престъпления според индийското законодателство).

Провалът в модерацията на Meta

За разлика от обикновените публикации, всяка платена реклама в платформите на Meta преминава през задължително предварително одобрение от автоматизирана технология за модерация. Въпреки това, системата е пропуснала и одобрила десетки реклами с педофилско съдържание.

Когато BBC докладва реклама, показваща плачещо малко момиченце с текст, подсказващ сексуално насилие, Instagram отговаря след 24 часа, че постът не нарушава правилата на общността.

Едва след като журналистите се свързват с ръководството на Meta, компанията блокира спорните реклами и акаунти. От Meta признават, че "никоя система не е перфектна". Наскоро компанията намали модераторите хора за сметка на по-евтините системи с изкуствен интелект.

Реакциите на експертите

Мадан Локур (пенсиониран съдия от Върховния съд на Индия) изразява дълбоко възмущение, че Instagram буквално "печели пари от участие в престъпна дейност".

Той настоява, че макар законите да защитават платформите от отговорност за потребителско съдържание, в случая става дума за платени реклами и компанията не може да избяга от отговорност, предаде BBC (Би Би Си).

Брайън Боланд (бивш вицепрезидент на Facebook) споделя, че е "ужасен, но не и изненадан".

Според него алгоритъмът на Instagram умишлено е проектиран да показва все по-екстремно съдържание, за да задържа вниманието и да генерира кликове и приходи (98% от приходите на Meta за 2025 г. идват от реклама).

Той напуска компанията, тъй като в дебатите балансът между печалбите и безопасността на потребителите винаги е надделявал в полза на парите.

Снимка: Reuters