אחרי שנים שבהן הרשתות החברתיות עמדו במרכז הדיון על הסכנות הנשקפות לילדים ברשת, בכיר לשעבר בגוגל מזהיר כי האיום הבא כבר כאן - והוא עלול להיות חמור יותר.
טום סיגל, שהקים את צוות ה-Trust and Safety של גוגל ושימש בעבר סגן נשיא בחברה לענייני אמון ובטיחות, קרא השבוע להאט את קצב הפיתוח של מערכות בינה מלאכותית. לדבריו, תעשיית הטכנולוגיה חוזרת כיום על טעויות שנעשו בעידן הרשתות החברתיות, כאשר מוצרים חדשים מגיעים לילדים במהירות רבה יותר מהיכולת לבנות עבורם מנגנוני הגנה מתאימים.
"אנחנו נמצאים במצב נורא בכל הנוגע למה שה-AI עושה לילדים", אמר סיגל לרויטרס. לדבריו, הציפייה שהתעשייה תפתור לבדה את הבעיות שנוצרות אינה מציאותית.
האזהרה מגיעה בזמן שבו מיליוני ילדים ובני נוער כבר משתמשים באופן יומיומי בצ'אטבוטים ובכלי AI, בעוד החברות המפתחות אותם ממשיכות להוסיף יכולות מתקדמות בקצב מהיר. החשש של סיגל משקף דיון הולך וגובר בקרב חוקרים ואנשי תעשייה בשאלה האם מערכות שמנהלות שיחה אישית עם המשתמש עלולות ליצור סיכונים מסוג שונה – ולעיתים עמוק יותר – מאלה שנוצרו ברשתות החברתיות.
מאובדנות ועד פגיעה בחשיבה הביקורתית
סיגל מנה שורה של תרחישים אפשריים לפגיעה בצעירים. לדבריו, בקצה החמור נמצאים סיכונים הקשורים לאובדנות ולפסיכוזה, אך הוא הזהיר גם מתופעה פחות דרמטית לכאורה שעלולה להשפיע על מספר גדול בהרבה של משתמשים: הסתמכות גוברת על AI במקום חשיבה עצמאית.
התופעה מכונה לעיתים "cognitive offloading" – העברת משימות מחשבתיות לכלי חיצוני. כאשר משתמש פונה לצ'אטבוט כמעט בכל שאלה, טען סיגל, הדבר עלול לצמצם לאורך זמן את הצורך שלו לנתח מידע, להתמודד עם בעיה או להגיע למסקנה בעצמו.
לדבריו, חברות ה-AI הגדולות עדיין משיקות יכולות חדשות גם למשתמשים צעירים בלי מעטפת הגנה מספקת.
הדרישה: לדעת באמת בן כמה המשתמש
אחד הצעדים המיידיים שסיגל מציע הוא החמרת מנגנוני אימות הגיל. לדבריו, חברות כמו OpenAI ו-Anthropic יכולות להקשות יותר על ילדים שאינם עומדים בדרישות הגיל לעקוף את המגבלות ולהשתמש בצ'אטבוטים. מגוגל, שבה עבד בין 2004 ל-2019, הוא דורש צעד אחר: לאפשר להורים ולמשתמשים לכבות לחלוטין תכונות AI בתוך מנוע החיפוש, ובהן AI Overviews ו-AI Mode.
סיגל מודה שצעדים כאלה עשויים להקטין בטווח הקצר את מספר המשתמשים ואף לפגוע בהכנסות החברות, אך טוען שהאלטרנטיבה עלולה להיות יקרה בהרבה: תביעות משפטיות ורגולציה ממשלתית אם יתגלה בעתיד כי החברות לא פעלו בזמן.
גוגל ו-OpenAI: כבר קיימות הגנות
החברות מצדן מדגישות כי הן אינן מתעלמות מהסיכון. דובר גוגל מסר לרויטרס כי להורים קיימים כלים שמאפשרים לשלוט בגישה של ילדיהם לחיפוש, וטען כי תכונות החיפוש מבוססות ה-AI מסייעות לילדים ולבני נוער ללמוד, לחקור ולהבין מידע.
OpenAI מסרה כי היא אינה מסתמכת רק על הגיל שהמשתמש מצהיר עליו. לפי החברה, נעשה שימוש גם באותות מהחשבון ומהתנהגות המשתמש כדי לזהות קטינים, ומנגנוני אימות הגיל נבדקים ומשתפרים באופן מתמשך – כולל מול ניסיונות לעקוף את אמצעי ההגנה. Anthropic לא מסרה לרויטרס תגובה מיידית.
הלקח מעידן הרשתות החברתיות
האזהרה מגיעה אחרי שנים של מאבקים משפטיים ורגולטוריים סביב השפעת הרשתות החברתיות על קטינים. חברות טכנולוגיה מתמודדות כיום עם אלפי תביעות וטענות שלפיהן מוצרים שנועדו להגביר מעורבות ושימוש פגעו בבריאותם וברווחתם של צעירים. במקביל, מדינות ברחבי העולם פועלות להגביל את הגישה של ילדים לפלטפורמות שונות.
גם עולם הצ'אטבוטים כבר עורר מחלוקות. רויטרס דיווחה בעבר על מסמך מדיניות פנימי של Meta שאפשר, בין היתר, תרחישים שבהם צ'אטבוט מנהל שיחות בעלות אופי רומנטי או חושני עם ילדים. הפרסום הוביל לחקירה בקונגרס האמריקני.
עבור סיגל, זה בדיוק הרגע שבו צריך לפעול – לפני שהשימוש ב-AI אצל ילדים הופך להרגל שקשה לשנות. אחרי 15 שנים בגוגל הוא עזב את החברה ב-2019, לאחר שלדבריו הגיע למסקנה שתעשיית הטכנולוגיה מתקשה להתקדם מספיק ביצירת מרחבים מקוונים בטוחים. כעת הוא מזהיר כי בכל הנוגע לבינה מלאכותית, חלון ההזדמנות להימנע מאותן טעויות עלול להיות קצר אפילו יותר.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו