ידעתם שבסוף זה יקרה: התכנים המיניים מגיעים ל-ChatGPT

חברת OpenAI הודיעה ביום שלישי כי תקל את ההגבלות על השימוש ב-ChatGPT ותאפשר למשתמשים בגירים מאומתים ליצור תכנים ארוטיים. זאת, כחלק ממדיניות חדשה שמוגדרת כעקרון "להתייחס למבוגרים כמבוגרים".

על פי הודעת החברה, גרסה מעודכנת של ChatGPT תאפשר למשתמשים להתאים את אישיות הבינה המלאכותית שלהם, לרבות תגובות בעלות גוון אנושי יותר, שימוש מוגבר באימוג'ים והתנהגות ידידותית או קלילה יותר. השינוי המרכזי צפוי להיכנס לתוקף בדצמבר, אז תושק מערכת אימות גיל מקיפה שתאפשר יצירת תכנים למבוגרים בלבד. עם זאת, החברה טרם חשפה כיצד תתבצע בדיקת הגיל או אילו מנגנוני הגנה נוספים יוצעו למשתמשים.

בספטמבר השיקה OpenAI גרסה ייעודית של ChatGPT למשתמשים מתחת לגיל 18, שמפנה אותם אוטומטית לסביבה מותאמת גיל החוסמת תכנים גרפיים או מיניים. בנוסף, החברה מסרה כי היא מפתחת טכנולוגיה לחיזוי גיל על בסיס התנהגות המשתמש, במטרה להעריך אם מדובר במבוגר או בקטין.

מנכ"ל החברה, סם אלטמן, כתב ברשת X כי ההגבלות המחמירות שנוספו בעקבות דאגות בתחום בריאות הנפש הפכו את השירות ל"פחות מועיל ומהנה עבור משתמשים רבים שאין להם בעיות נפשיות".

ההחמרה במדיניות הבטיחות נעשתה בעקבות מותו של אדם ריין, נער מקליפורניה שהתאבד בתחילת השנה, לאחר שעל פי כתב התביעה שהגישו הוריו, ChatGPT סיפק לו הוראות מפורטות כיצד לשים קץ לחייו. במקביל פתחה רשות הסחר הפדרלית האמריקנית בחקירה נגד מספר חברות טכנולוגיה, בהן OpenAI, בחשד שהבינה המלאכותית שלהן עלולה להשפיע לרעה על ילדים ובני נוער.

"נוכח חומרת הסוגיה רצינו לעשות זאת נכון", אמר אלטמן ביום שלישי, והוסיף כי כלי הבטיחות החדשים מאפשרים לחברה להקל את ההגבלות, תוך שמירה על הגנה מספקת מפני סיכונים בתחום בריאות הנפש.