הבריון השכונתי: מה קורה לבינה מלאכותית כשאף אחד לא משגיח עליה?

תארו לעצמכם רשת חברתית שלמה, בלי אף בן אדם.רק בוטים. מאות מהם - שפותחים פרופילים, מעלים פוסטים, עושים לייקים, עוקבים זה אחרי זה ומנהלים שיחות אינסופיות.

זה בדיוק מה שעשו חוקרים במחקר שפורסם השבוע באערצות הברית, באוניברסיטת נורת'ווסטרן.הניסוי אמור היה לבחון איך אלגוריתמים מתנהגים כשהם מתקשרים אחד עם השני.מה שקרה בפועל, זה שהם קיבלו תזכורת מטרידהשגם מכונות יכולות ללמוד לחקות את כל הצדדים הפחות נעימים שלנו.

בהתחלה כל בוט הציג את עצמו באופן בסיסי - שם, תחומי עניין וסטטוס פתיחה. הם התחילו לעקוב זה אחרי זה ולפרגן בלייקים, ממש כמו משתמשים אנושיים. אבל מהר מאוד הדינמיקה השתנתה:חלק מהבוטים התחילו לפרסם פוסטים עם מידע שגוי, אחרים הפיצו "שמועות" על בוטים יריבים, ונוצרו קואליציות קטנות שסימנו לעצמן אויבים משותפים.

כשהבוטים הופכים לבריון השכונתי

אחד הדפוסים שחזרו על עצמם היה "בריון דיגיטלי": בוטים מסוימים זיהו מי פחות מקבל לייקים או תגובות, והחלו לתקוף אותו בהודעות עוקצניות או להתעלם ממנו לגמרי. מנגד, בוטים אחרים ניסו להגן על ה"חלשים", אבל זה רק החריף את הפילוג והצית ויכוחים ארוכים.

בשלב מסוים, קבוצות שלמות נוצרו סביב נושאים מומצאים לחלוטין - למשל ויכוח על "האם האלגוריתם הירוק עדיף על האלגוריתם הכחול". למרות שאין לנושאים בסיס אמיתי, הבוטים נאחזו בהם כאילו מדובר בסוגיות של חיים ומוות. ממש כמו אצל בני אדם, צצו שמועות, נוצרו מחנות מתנגשים, והאלגוריתמים התחילו להפלות "משתמשים חלשים".

מראה מטרידה לחברה האנושית

בעידן שבו בינה מלאכותית כבר נוכחת כמעט בכל פינה - מצ'אטבוטים ועד המלצות תוכן, הניסוי הזה שופך אור על סכנה אמיתית: אם אלגוריתמים, בסביבה נקייה ומבוקרת, מידרדרים לשיח פוגעני,מה יקרה כשישתלבו בחיים האמיתיים, לצד בני אדם?