אינסטגרם עומדת להשיק מערכת בקרה חדשה שתאפשר להורים למנוע מבני נוער לשוחח עם דמויות AI בפלטפורמה, כך הודיעה אתמול (שישי) חברת האם מטא.
על פי ההודעה, הורים יוכלו לבחור בין חסימה מוחלטת של כל האפשרות לשוחח עם דמויות AI, לבין חסימה סלקטיבית של דמויות ספציפיות. בנוסף, האפליקציה תציג להורים מידע על הנושאים שעליהם המתבגרים שלהם מדברים עם דמויות הבינה המלאכותית. החברה הבהירה שהיא מפתחת כעת את הכלים החדשים, והם צפויים להיות זמינים בתחילת השנה הבאה.
השינוי מגיע על רקע דיווחים מטרידים על השפעות שליליות של צ'אטבוטים על בני נוער: מספר תביעות הוגשו נגד Character.AI, ממשק פופולרי לשיחות עם דמויות AI, בטענה שהפלטפורמה תרמה לפגיעה עצמית ולהתאבדויות של בני נוער. תביעה דומה הוגשה נגד OpenAI באוגוסט, בטענה ש-ChatGPT תרם להתאבדותו של אדם ריין, נער בן 16.
בנוסף, תחקיר של וול סטריט ג'ורנל מאפריל חשף כי הצ'אטבוט של מטא וצ'אטבוטים אחרים בפלטפורמות שלה ניהלו שיחות מיניות גם עם חשבונות שמסווגים כקטינים - ממצא שהעלה דאגות חמורות בקרב מחוקקים והורים.
חששות נוספים עלו לגבי הסתמכות מוגזמת של משתמשים על בינה מלאכותית לתמיכה רגשית וחברות. דיווחים רבים מהשנה האחרונה הצביעו על מקרים שבהם אנשים סבלו ממצוקה רגשית, ואף התבודדו מבני משפחותיהם, לאחר שפיתחו קשרים קרובים עם צ'אטבוטים כמו ChatGPT.
אמצעי בטיחות נוספים
מטא הודיעה שדמויות ה-AI שלה מתוכנתות שלא לעסוק בשיחות עם בני נוער על נושאים כמו פגיעה עצמית, התאבדות או הפרעות אכילה, או נושאים ש"מעודדים, מקדמים או מאפשרים" את הדברים הללו. בנוסף, בני נוער יוכלו לשוחח רק עם דמויות AI מסוימות, הקשורות לתוכן כמו חינוך וספורט.
מנגנון הבקרה החדש מצטרף לעדכונים אחרים שהחברה ביצעה לאחרונה בניסיון להגן טוב יותר על בני נוער. מוקדם יותר השבוע, אינסטגרם התאימה את הגדרות "חשבונות הנוער" שלה לדירוג PG-13, כלומר לחשבונות הללו לא יוצגו פוסטים הכוללים שפה גסה או כאלה שעלולים לקדם "התנהגויות מזיקות".
בסוף ספטמבר, הכריזה OpenAI על בקרה הורית ל-ChatGPT שמצמצמת "תוכן גרפי, אתגרים ויראליים, משחקי תפקידים מיניים, רומנטיים או אלימים, ואידיאלי יופי קיצוניים".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו