Az Internet Watch Foundation (IWF) szerint egyre több a mesterséges intelligenciával előállított „illegális tartalom” a neten, az elmúlt hat hónap mennyisége már most meghaladta az előző évi, általuk talált, AI-val gyártott tartalmat.
Illegális tartalom alatt ebben az esetben leginkább pornográf képeket és videókat kell érteni. Az IWF egyik elemzője szerint az is probléma, hogy a mesterséges intelligencia által generált tartalmakkal kapcsolatos helyzetben már elértünk egy „fordulópontra”, amikor a hatóságok sokszor már nem tudják eldönteni, hogy az adott képen/videón, ami egy gyerek szexuális zaklatását ábrázolja, valódi, segítségre szoruló gyereket lehet látni vagy AI által generált képet.
Az IWF szerint a képek „kifinomultságán” látni, hogy valódi áldozatokról készült képek és videók segítségével „képezték ki” az AI-t, hogy ilyen tartalmakat gyártson.
Azt is hozzátették, hogy ezek a tartalmak még csak nem is a dark weben, hanem az internet nyilvánosan és szabadon elérhető részén vannak
Az IWF által látott anyagok között deepfake-videók is vannak, korábbi jelentéseik szerint pedig hírességek képeit is felhasználták olyan pornográf tartalom készítéséhez, amikor az adott hírességet gyerekként ábrázolták. De találtak olyan tartalmakat is, amikor az interneten talált gyerekek fotóit a mesterséges intelligencia segítségével „meztelenítették le”.
Ezeknek a mesterséges intelligencia által generált tartalmaknak több mint a felét oroszországi és amerikai szervereken tárolták, de találtak ilyet Japánban és Hollandiában is. (Guardian)