אין כניסה לקטינים: הצ’אטבוט הפופולרי עובר לפורמט בטוח

ימנע מקרים קשים? חברת Character.AI הודיעה אמש (שלישי) על השקת "Stories" - פורמט חדש שמאפשר למשתמשים ליצור סיפורים, כך שהם יוכלו להמשיך "לדבר" עם הדמויות בצורה בטוחה.

הצעד מגיע על רקע הכרזת החברה בתחילת השבוע שלא תאפשר יותר לקטינים מתחת לגיל 18 להשתמש בצ'אטבוטים שלה, זאת בעקבות שורת תקריות קשות ושימוש בעייתי של בני נוער בצ'אטים דומים, שחלקם אף נקשרו למקרי פגיעה עצמית.

"Stories מציעה דרך מובנית ליצור ולחקור סיפורים במקום צ'אט חופשי", נכתב באתר החברה. "כך בני נוער יוכלו להמשיך ליצור קשר עם הדמויות האהובות עליהם בתוך סביבה שדואגת לבטיחותם".

Character.AI היא פלטפורמה אינטרנטית שמאפשרת לכל אחד לנהל שיחות עם דמויות וירטואליות המופעלות על ידי בינה מלאכותית.

התפעול הוא פשוט להפליא: הפלטפורמה מאפשרת לבחור מתוך מיליוני אישיויות - מדמויות היסטוריות כמו איינשטיין, דרך גיבורים מסרטים ועד לדמויות מקוריות שיצרו משתמשים אחרים.

לאחר בחירת הדמות, השיחה מתנהלת כמו צ'אט רגיל בהודעות טקסט, כשה-AI מגיב בהתאם לאישיות שהוגדרה עבור הדמות.

הכלי מאפשר גם יצירה עצמאית של דמויות חדשות, תוך הגדרת קווי האופי והרקע שלהן, וכך למעשה כל אחד יכול "לבנות" את בן השיח המושלם עבורו, בין אם למטרות בידור, משחקי תפקידים או אפילו למידה.

המהלך מגיע מתוך חשש גובר מהתלות שפיתחו חלק מהמשתמשים בצ'אטבוטים הזמינים 24/7 ויכולים ליזום שיחות באופן עצמאי. ברשת נרשמו תגובות מעורבות למהלך. חלק מבני הנוער ציינו כי הם מאוכזבים, אך מבינים את ההחלטה.

"אני כל כך כועס על האיסור, אבל גם כל כך שמח, כי עכשיו אני יכול לעשות דברים אחרים - ואולי סוף-סוף ההתמכרות שלי תיגמר", כתב משתמש שהציג את עצמו כמתבגר. אחר הוסיף: "כמי שמתחת לגיל 18 זה פשוט מאכזב. אבל גם מוצדק, כי אנשים בגילי מתמכרים לזה".

מנגד, משתמשים מסוימים הגדירו את המהלך כ"ענישה קולקטיבית", וטענו כי החברה הייתה צריכה למצוא פתרונות בטיחות מתונים יותר במקום לחסום את הצ'אט לחלוטין.

בדרך לרגולציה?

המהלך מתרחש במקביל לרגולציה חדשה בקליפורניה, שהפכה למדינה הראשונה להסדיר "חברי AI". במקביל, שני הסנאטורים ג'וש האוולי (רפובליקני) וריצ'רד בלומנטל (דמוקרט) מקדמים הצעת חוק פדרלית שתאסור לחלוטין על "חברי AI" לקטינים.

מנכ"ל Character.AI, קאראנדיפ אנאנד, אמר ל-TechCrunch בחודש שעבר: "אני באמת מקווה שהעובדה שאנחנו מובילים את המהלך תקבע סטנדרט בתעשייה שבו מתחת לגיל 18 לא יציעו כלל צ'אטים פתוחים".