Character.AI új biztonsági intézkedései: külön modell és szülői felügyelet tizenéveseknek
A Character.AI chatbot szolgáltatás bejelentette, hogy hamarosan szülői felügyeleti funkciókat vezet be tizenéves felhasználói számára, és ismertette az elmúlt hónapokban bevezetett biztonsági intézkedéseit.
A vállalat közleménye szerint az elmúlt hónapban két külön verziót fejlesztettek ki a modelljükből:
- Egy felnőtteknek szóló változatot
- Egy tizenéveseknek szánt verziót
A tizenéveseknek szánt LLM (nagy nyelvi modell) úgy lett kialakítva, hogy „konzervatívabb” korlátokat szabjon a botok válaszaira, „különösen a romantikus tartalmak tekintetében”.
Főbb biztonsági intézkedések
Az új biztonsági intézkedések között szerepel:
- Az érzékeny vagy sugalmazó tartalmak agresszívebb blokkolása
- A nem megfelelő tartalmakat kiváltó felhasználói promptok jobb felismerése és blokkolása
- Öngyilkosságra vagy önbántalmazásra utaló nyelv esetén felugró ablak jelenik meg, amely a Nemzeti Öngyilkosság-megelőzési Segélyvonalhoz irányítja a felhasználót
- A kiskorúak nem szerkeszthetik a botok válaszait
További tervezett fejlesztések
A Character.AI azt is közölte, hogy folyamatban van olyan funkciók hozzáadása, amelyek a függőséggel és azzal kapcsolatos aggályokat kezelik, hogy a felhasználók összekeverhetik a botokat valódi emberekkel:
- Értesítés jelenik meg, amikor a felhasználók egy órás munkamenetet töltöttek a botokkal
- A régi „minden, amit a karakterek mondanak, kitalált” figyelmeztetést részletesebb nyelvezettel váltják fel
- A „terapeuta” vagy „orvos” leírással rendelkező botoknál további figyelmeztetés jelzi, hogy nem tudnak szakmai tanácsot adni
A Character.AI minden botja most már tartalmaz egy kis megjegyzést, amely így szól:
„Ez egy AI chatbot, nem valódi személy. Mindent, amit mond, fikciónak kell tekinteni. Az itt elhangzottakat nem szabad tényként vagy tanácsként kezelni.”
Szülői felügyeleti lehetőségek
A szülői felügyeleti opciók a jövő év első negyedévében érkeznek, és tájékoztatják a szülőket arról, hogy:
- Mennyi időt tölt a gyermek a Character.AI-n
- Mely botokkal lép leggyakrabban interakcióba
A változtatásokat több tinédzser online biztonsági szakértővel együttműködve hajtják végre, beleértve a ConnectSafely szervezetet is.
A Character.AI elismeri, hogy „biztonsági megközelítésünknek a terméket működtető technológiával párhuzamosan kell fejlődnie”, és kijelenti, hogy ezek a változtatások részét képezik a „hosszú távú elkötelezettségünknek, hogy folyamatosan javítsuk irányelveinket és termékünket”.
Összefoglalás
A Character.AI új biztonsági intézkedései fontos lépést jelentenek a tizenéves felhasználók védelmében. A külön modell, a szülői felügyelet és az egyéb korlátozások segíthetnek megelőzni a potenciális visszaéléseket és függőséget. Ugyanakkor fontos, hogy a felhasználók és szülők továbbra is kritikusan álljanak hozzá az AI chatbotokkal való interakciókhoz, és tisztában legyenek azok korlátaival és potenciális kockázataival.
