בית המשפט העליון חייב את עיריית רמת גן ב 30,000 שקל הוצאות, לאחר שנמצא כי ציטטה בכתביה חוזרי מנכ”ל ופסקי דין שאינם קיימים, וכי יש יסוד סביר לכך שמקורם ב”הזיות של מערכת בינה מלאכותית”.
פסק הדין, שניתן פה אחד על ידי הרכב בראשות המשנה לנשיא העליון השופט נועם סולברג, מציב אזהרה שיפוטית חריגה לרשויות מינהליות המשתמשות בכלי בינה מלאכותית ללא בקרה.
אילון מאסק על Open AI וגוגל: "בינה מלאכותית היא סיכון קיומי לאנושות" // מתוך הפודקאסט של ג'ו רוגן - JRE
פסק הדין עצמו עוסק בקטין הלומד במסגרת חינוך מיוחד, שהוריו פרודים ומקיימים הורות משותפת. לאחר שאביו עבר להתגורר במרחק של כשבעה קילומטרים מבית הספר, פנה לקבלת הסעה. הבקשה אושרה, אך בהמשך בוטלה, בנימוק שהמשמורת רשומה על שם האם.
כאשר פנה האב בשנית, באמצעות עורך דין, השיבה העירייה בתשובה מנומקת ומפורטת. היא הפנתה לחוזר מנכ”ל של משרד החינוך, ציטטה סעיפים מתוכו, ואף הסתמכה על שלושה פסקי דין.
אלא שכאן התגלה הכשל. עורך דינו של האב לא הצליח לאתר את הסעיפים המצוטטים מחוזר המנכ״ל. בפנייה ישירה למשרד החינוך נמסר כי “חוזר המנכ”ל אליו מפנה עיריית רמת גן אינו מוכר לנו”. גם הציטוטים עצמם לא נמצאו בשום נוהל רשמי, ופסקי הדין לא כללו את הקביעות שיוחסו להם.
בעתירה לבית המשפט המחוזי טען האב כי מדובר בהחלטה “המבוססת על סעיפים ופסקי דין מומצאים, שכפי הנראה נכתבו בידי בינה מלאכותית”.
בית המשפט המחוזי קיבל פתרון מעשי ואישר הסעה מבית האב לפנים משורת הדין, אך נמנע מפסיקת הוצאות. על כך הוגש הערעור לבית המשפט העליון.
במסגרת הדיון התבקשה העירייה להתייחס לטענת הבינה המלאכותית. בתשובתה הוגש כתב נוסף שכלל גם הוא ציטוט מפסק דין של בג”ץ שלא נמצא. “ברורים ומתסכלים”, כתב סולברג, לאחר שמנה ארבעה מקרים של הזיות בינה מלאכותית במסגרת אותו הליך. הוא אף ציטט את הפסוק מספר משלי “תחת שלוש רגזה ארץ ותחת ארבע לא תוכל שאת”.
בפסק הדין הבחין סולברג בין שני סוגי כשלים. הראשון הוא שימוש בבינה מלאכותית בכתבי טענות לבית המשפט. השני, החמור יותר לדבריו, הוא השימוש בה בתשובות הנמסרות לאזרח.
“כשאזרח מקבל מרשות מינהלית החלטה הנראית מנומקת ומבוססת על טעמים ואסמכתאות משפטיות, במרבית המקרים אין ביכולתו להרהר אחריה, ודאי שלא לגלות כי אותם נימוקים אינם אלא פרי דמיונה של מערכת בינה מלאכותית”, כתב.
לדבריו, דווקא האזרחים המוחלשים הם שצפויים להיפגע במיוחד, שכן לעולם לא יגלו כי נעשה להם עוול.
השופטת גילה כנפי שטייניץ הוסיפה כי כאשר רשות מינהלית מאצילה בפועל את שיקול דעתה לאלגוריתם, עלול הדבר לעלות כדי פגם בשורש הסמכות. היא הזהירה מפני “הטיית האוטומציה”, וקראה למעורבות אנושית ממשית ולא פורמלית בלבד.
גם ניסיון העירייה לייחס את הטעות למתמחים נדחה. “טענה זו מוטב כי לא היתה נטענת כלל”, כתב סולברג, והבהיר כי האחריות מוטלת על עורך הדין החתום על הכתב, ואין הוא יוצא ידי חובתו בהסתמכו על אחר, בן אנוש או בינה מלאכותית.
בסיום פסק הדין קרא המשנה לנשיא לרשויות המחוקקת והמבצעת להסדיר את השימוש בבינה מלאכותית ברשויות הציבוריות, והדגיש כי אין מדובר בקריאה להימנע מהשימוש בטכנולוגיה, אלא להשתמש בה בשום שכל ובשיקול דעת, מתוך מודעות למגבלותיה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו