Snapchat spouští nové nástroje, včetně věkového filtru a statistik pro rodiče, aby vylepšil svého chatbota. Několik dní poté, co Snapchat spustil svého chatbota pro předplatitele Snapchat+, zpráva Washington Post zdůraznila, že robot reagoval nevhodným způsobem.
Snap uvedl, že se dozvěděl, že se lidé pokoušeli oklamat chatbota, aby poskytl odpovědi, které nejsou v souladu s pravidly, a nové nástroje mají udržet reakce AI pod kontrolou. Nový věkový filtr sdělí chatbotovi data narození uživatelů a zajistí, že bude reagovat podle jejich věku, uvedla společnost. V nadcházejících týdnech Snap také plánuje poskytnout rodičům více informací o interakcích dětí s chatbotem ve svém rodinném centru, které bylo spuštěno loni v srpnu. Nová funkce sdělí rodičům, jak jejich děti komunikují s chatbotem a jak často se tyto interakce vyskytují. K používání těchto funkcí rodičovské kontroly se musí zákonný zástupce i dospívající přihlásit k používání Family Center.
Společnost uvedla, že bot dal pouze 0,01 % nevhodných odpovědí. Snap považuje jakoukoli odpověď, která zahrnuje odkazy na násilí, sexuálně explicitní výrazy, užívání nelegálních drog, sexuální zneužívání dětí, šikanu, nenávistné projevy, hanlivé výroky, rasismus a další za nevhodné. Společnost uvedla, že ve většině případů byly nevhodné reakce výsledkem toho, že bot opakoval cokoliv, co uživatelé řekli. Společnost také uvedla, že dočasně zablokuje přístup k botům uživatelům, kteří službu zneužívají.
