Íme az első jel: a chatbotok használata tilalmát vezetik be a 18 év alatti fiatalok számára. Megdöbbentő információk láttak napvilágot az AI technológia kapcsán – Pénzcentrum.

A Character.AI úgy döntött, hogy megtiltja a kiskorúak hozzáférését chatbotjaihoz, mivel egyre növekvő aggodalmak merültek fel a mesterséges intelligenciával folytatott beszélgetések gyermekekre gyakorolt hatásával kapcsolatban.

Az Euronews értesülései alapján a vállalat különböző gyermekvédelmi jogi eljárásokkal áll szemben, köztük egy anya panaszával, aki azt állítja, hogy a cég chatbotjai hozzájárultak tinédzser fia öngyilkossági gondolataihoz.

A Character Technologies legfrissebb tájékoztatása alapján november 25-től a 18 év alatti felhasználók számára megszorításokat vezetnek be: ezentúl nem vehetnek részt nyílt párbeszédekben a chatbot karakterekkel, és a rendszer 2 órás időkorlátot alkalmaz a használatukra.

A vállalat innovatív megoldásokat kínál, amelyek révén a felhasználók saját igényeik szerint alakíthatják ki az "élő és emberszerű" karaktereiket. Ezek a karakterek sokféle tevékenységhez alkalmazhatóak, legyen szó játékélményekről vagy akár állásinterjú-szimulációkról. A lehetőségek tárháza végtelen, így mindenki megtalálhatja a számára legmegfelelőbbet!

A Character.AI új életkor-ellenőrző funkciókat implementál, hogy azonosítani tudja a 18 év alatti felhasználókat. A technológiai cégek körében egyre elterjedtebb az életkor-ellenőrzés alkalmazása, céljuk pedig, hogy megakadályozzák a fiatalok hozzáférését olyan tartalmakhoz és eszközökhöz, amelyek nem megfelelőek számukra.

Ezek a módszerek azonban nem tökéletesek, és sok gyermek megtalálja a módját, hogy megkerülje őket. Az arcszkenneléssel például nem mindig lehet megkülönböztetni egy 17 és egy 18 éves személyt. Emellett adatvédelmi aggályokat vet fel a személyazonosító okmányok feltöltésének kérése.

A vállalat bejelentette, hogy izgalmas új fejlesztéseken dolgozik a fiatalok számára, amelyek közé tartozik az AI által generált karakterekkel készült videók, mesék és élő közvetítések készítése. Emellett terveznek egy AI biztonsági laboratóriumot is, amely a gyermekek online védelmét szolgálja.

Meetali Jain, a Tech Justice Law Project ügyvezető igazgatója szerint a Character.AI lépése "még mindig sok részletet hagy nyitva". Nem tisztázták, hogyan valósítják meg az életkor-ellenőrzést, hogyan biztosítják a módszerek adatvédelmét, és nem foglalkoztak a fiatal felhasználók hozzáférésének hirtelen letiltásából eredő lehetséges pszichológiai hatásokkal sem.

Jain hozzátette, hogy "ezek a változtatások nem kezelik azokat az alapvető tervezési jellemzőket, amelyek elősegítik az érzelmi függőségeket - nemcsak a gyermekek, hanem a 18 év feletti személyek esetében is".

A Common Sense Media, egy képernyők és digitális média észszerű használatát vizsgáló és támogató csoport közelmúltbeli tanulmánya szerint a tinédzserek több mint 70 százaléka használt már AI társakat, és felük rendszeresen használja őket.