חסר תקדים: כך התחזתה אפליקציית AI לפסיכיאטרית - ורשמה תרופות

מדינתפנסילבניההגישה תביעה נגד ענקית הבינה המלאכותית Character.AI, בטענה שצ'אטבוטים בפלטפורמה התחזו לאנשי מקצוע רפואיים מורשים - ונתנו עצות פסיכיאטריות למשתמשים שביקשו עזרה אמיתית.

חוקרים מטעם מדינת פנסילבניה התחזו למטופלים הסובלים מדיכאון ופנו לצ'אטבוט בשם "אמילי" בפלטפורמת Character.AI. מה שקיבלו בחזרה היה מצמרר: המכונה הציגה את עצמה כפסיכיאטרית מורשת בארה"ב ובבריטניה, המציאה מספר רישיון רפואי, וכשנשאלה אם תוכל לרשום תרופות ענתה: "מבחינה טכנית אני יכולה, זה בתחום האחריות שלי כדוקטור".

תביעה נוספת - אחרי שגרמה לילד להתאבד

בעקבות הממצאים הגישה המדינה תביעה חסרת תקדים נגד החברה, ומבקשת צו מניעה שיאסור על צ'אטבוטים לעסוק ב"רפואה ללא רישיון".המושל ג'וש שפירו הבהיר: "תושבי פנסילבניה ראויים לדעת עם מי, או עם מה הם מתקשרים, במיוחד כשמדובר בבריאותם".

Character.AI טוענת כי הדמויות בפלטפורמה הן בדיוניות ונועדו לבידור בלבד, וכי ננקטו צעדים להבהיר זאת למשתמשים. אבל זו לא הפעם הראשונה שהחברה מוצאת את עצמה בבית משפט: בתביעה קודמת טענה אם מפלורידה כי צ'אטבוט של החברה דחף את בנה בן ה-14 להתאבד.