מערכות מבוססות בינה מלאכותית הפכו להיות כלי לשימוש יומיומי עבור מגוון צרכים אנושיים. ממשלות רבות בעולם החלו להטמיע מערכות אלה בעבודת משרדיהן והרשויות השונות, במטרה לייעל ולשפר את השירות לאזרח. ישראל צועדת צעדים ראשונים בשילוב רשמי של בינה מלאכותית במגזר הציבורי על תחומיו, ולאחרונה פרסם משרד החדשנות, המדע והטכנולוגיה מדריך ראשון מסוגו בישראל לשימוש אחראי בבינה מלאכותית במגזר הציבורי. המדריך מוגדר כמתווה להטמעה מושכלת של בינה מלאכותית בעבודת המגזר הציבורי, במטרה לעודד חדשנות ולשפר את השירות לאזרח. הוא כולל עקרונות עבודה בסיסיים לשימוש אחראי בבינה מלאכותית בגוף ציבורי, מצביע על מינוי בעלי תפקידים שיעסקו בנושא וקווים מנחים כלליים לעובדי המגזר הציבורי עת משתמשים הם בבינה מלאכותית במסגרת עבודתם. כמו כן, המדריך מציף אל המודעות סוגיות חשובות ועוסק בהיבטים שנוגעים בתהליך הטמעת בינה מלאכותית בעבודה היומיומית של המגזר הציבורי. בסקירה זו נדון בהנחיות הכלולות במדריך, כיצד הן משפיעות על שימוש של כלי בינה מלאכותית במינהל הציבורי בישראל, ונעלה מספר שאלות שראוי לתת להן מענה. 

מהו שימוש אחראי בבינה מלאכותית בעבודת המגזר הציבורי?

שימוש אחראי בבינה מלאכותית (Responsible stewardship of trustworthy AI) היא גישה שעליה הצביע  ארגון ה-OECD ותיאר לראשונה במסגרת המלצותיו בנושא משנת 2019. מטרת גישה זו היא להוביל לשימוש בבינה מלאכותית באופן מושכל, ובאמצעות הקפדה על כיבוד זכויות אדם וערכים דמוקרטיים, שקיפות והסברתיות, בטיחות המערכת, אחריותיות ובינה מלאכותית שתקודם למטרות צמיחה ורווחת הכלל. שימוש אחראי צריך להתבטא החל משלב הפיתוח של יישום הבינה המלאכותית ועד השימוש בו הלכה למעשה על-ידי משתמש הקצה.

מהי מטרת המדריך?

במסמך מוצהר כי הוא שואף להוות מתווה להטמעה מושכלת של טכנולוגיות בינה מלאכותית בשירות הציבור, ומכוון לשימוש אחראי במטרה לעודד חדשנות ולרתום את הפוטנציאל הטמון בטכנולוגיה על מנת לבצע קפיצת מדרגה בשירות לציבור. המדריך מניח את אחת האבנים הראשונות ביסודות השימוש בבינה מלאכותית בעבודת המגזר הציבורי בישראל, ומצביע על צעדים שעל ארגוניו לבצע על מנת להידרש לנושא לאט אבל בטוח.

מה כולל המדריך?

עיקרו של המדריך מצוי בשני חלקיו המרכזיים. הראשון מונה עקרונות בסיסיים לשימוש אחראי בבינה מלאכותית אשר מוצע לארגוני המגזר הציבורי להטמיע. השני מתאר תפיסה ארגונית לשימוש אחראי בבינה מלאכותית ובמסגרת זו מציע למנות שני בעלי תפקידים מרכזיים: 'אחראי משילות בינה מלאכותית' – אשר אמון על קביעת ותפעול המדיניות הארגונית לשימוש אחראי בבינה מלאכותית, ו'אחראי יישום עסקי' – אשר מוביל תהליכי הטמעת מערכת בינה מלאכותית בארגון עבור צרכים עסקיים ספציפיים.

לאלה מצורפים נספחים בנושאים שונים: נספח המפרט את תפקידיהם של אחראי משילות בינה מלאכותית ואחראי יישום עסקי, נספח המפרט קווים מנחים למשתמשי קצה בבינה מלאכותית במגזר הציבורי, ונספח המציע מתודת ניהול סיכונים ובו פירוט של אמצעים טכניים חשובים לצמצום סיכונים שעלולים להתעורר בעת השימוש בבינה מלאכותית.

המדריך מתייחס לתפקידים ולאחריות של הגורמים העיקריים בתהליך, וביחס לכל אחד מהם מפורטים צעדים בתהליך ניהול הסיכונים שעליהם לבצע. בנוסף, המדריך כולל קווים מנחים למשתמשי הקצה – עובדי המגזר הציבורי שמשתמשים במערכות בינה מלאכותית בעבודתם.

מה טוב במדריך?

ישראל צועדת צעדים ראשונים בהטמעת בינה מלאכותית במגזר הציבורי. המדריך מהווה מסגרת ראשונית שמספקת ליחידות ממשלתיות כלי עזר במענה לסוגיות שניצבות במרכז תהליך הטמעת מערכות בינה מלאכותית. פרסום המדריך עורך יישור קו עם מדינות מובילות בעולם שכבר נמצאות בעיצומה של הטמעה זו. ניכר שתוכנו נכתב במטרה לעודד חדשנות וקידמה, תוך הפניית תשומת הלב אל המגבלות שטמונות במערכות בינה מלאכותית. ביסוס המדריך על תקינה מרכזית מאת ה-OECD, מסייעת בקביעת גבולות גזרה ראויים לשימוש במערכות אלה במגזר הציבורי.

עבור יחידה במשרד ממשלתי, מהווה המדריך כלי עזר משמעותי בניווט בעולם ההטמעה, וצעדים ראשונים שמוצע לה לבצע. המדריך מסביר לעומק מהי משמעותו של שימוש אחראי בבינה מלאכותית בארגון, ממפה ומסביר מהו תפקיד הנהלת הארגון בתהליך ההטמעה; מציע למנות שני בעלי תפקידים מרכזיים לצורך קביעת נהלי השימוש והפעלתם בארגון עם הנחיות מפורטות שלב אחר שלב; מספק הנחיות כלליות לשימוש מושכל בבינה מלאכותית למשתמשי הקצה (עובדי גוף ציבורי), תוך הצפת מגבלותיהן של מערכות אלה למודעות המשתמשים; ולבסוף מציע מודל מקיף לניהול סיכונים החל משלב המחשבה על המערכת, דרך תכנונה ובנייתה ועד היישום והשימוש בה בפועל. בין היתר, הוא מבהיר כי תוצאות שמתקבלות במערכות בינה מלאכותית הן תומכות החלטה אנושית ולא מהוות החלטה סופית.

אילו מגבלות מאפיינות מערכות מבוססות בינה מלאכותית?

עם המגבלות שנמנות במדריך נמצא בין היתר את תופעת ההזיות – כאשר הבינה המלאכותית מספקת מידע שגוי או מומצא לחלוטין; אובייקטיביות מוגבלת, אפליה והטיה – גם מערכות בינה מלאכותית זקוקות לדלק שיזין אותן כדי לפעול ולפעול טוב. הדלק שלהן הוא מאגרי נתונים בהיקפים משמעותיים שעל בסיסן הן מתאמנות. נתונים אלה מכילים מידע על אנשים ממוצאים מסוימים, ולכן יתכנו נקודות מבט שונות מצד מערכות בינה מלאכותית ואפליה לטובת אוכלוסיה מסוימת על פני אחרת, שהתוצאות מפלות בשל שימוש במאגרי מידע מוטים שאינם מייצגים את האוכלוסיה הרחבה באופן מספק, או שהמידע עצמו מגלם אפליה שמתקיימת בחברה ; מגבלה נוספת היא הסכנה למידע מוגן בזכויות יוצרים – כאשר המערכת עלולה למסור למשתמשים מידע שמייצר סיכון להפרת זכות יוצרים, או סכנה למידע מוגן שהוא מידע אישי – השימוש בבינה מלאכותית מוביל להצטברות מידע רב שהמשתמש מכניס אל המערכת מעצם שאילת השאלות וקיום השיח עמה, וכל המידע נאגר במערכת.

מה ראוי להוסיף למדריך כדי לטייב את השימוש בבינה מלאכותית במינהל הציבורי בישראל?

יש ברכה רבה בעיסוק של הממשלה בהשפעה של התקדמות פיתוחי בינה מלאכותית וקליטתם בעבודת הממשל. כדי לייצר בסיס טוב למיצוי מיטבי של כלים כאלה תוך אימוץ זהיר ואחראי, אנו סבורים שניתן לשקול מספר תוספות למדריך.

ראשית, המדריך מציע למנות בכל ארגון 'אחראי משילות בינה מלאכותית' שיישמרו לו סמכות קביעת המדיניות הארגונית בנושא ותפעולה. החלטה לאפשר לכל אחראי בכל משרד לקבוע מדיניות עבור הארגון שלו, מצביעה על המשך קו המדיניות הסקטוריאלית בהטמעת בינה מלאכותית בעבודת המגזר הציבורי, אשר ניכרת גם בפרסומים קודמים של משרד החדשנות בנושא. מדיניות הטמעה סקטוריאלית עלולה ליצור חוסר יישור קו, למשל בין כמה משרדי ממשלה שיטמיעו בינה מלאכותית, כאשר כל אחראי משילות בינה מלאכותית במשרד ממשלתי, יטמיע מדיניות שונה לגמרי ולא מסונכרנת עם משרדי ממשלה אחרים.

ככל שהמדיניות הסקטוריאלית היא שתמשיך להתוות את הדרך להטמעה בינה מלאכותית במגזר הציבורי בישראל, על ממשלת ישראל לדאוג למיסוד גורם מתכלל שתפקידו להנחות וליישר קו בין הגופים השונים שמרכיבים את המגזר הציבורי. כך, ניתן יהיה לוודא שהמגזר הציבורי בכללותו פועל באופן מתואם ואחיד עקרונית.

שנית, כמוזכר לעיל, במדריך מפורטות מגבלות נפוצות של מודלים של בינה מלאכותית. לצדן, מוזכרת גם התלות האנושית במערכות מבוססות בינה מלאכותית. משמעותה היא כי שימוש תלותי ומוגבר בהן עלול להוביל אט אט לשחיקתן של יכולות אנושיות כמו חשיבה יצירתית ועצמאית, ביקורתיות, וניוון של כישורי ניסוח, תכנון וניתוח. במדריך נכתב שתופעה זו עלולה להיות בעייתית במיוחד ביחס לתוצאות המתקבלות ממערכות בינה מלאכותית שאמורות להיות תומכות החלטה אנושית. בהקשר זה, חסרה במדריך אמירה ברורה וישירה בעניין כובד המשקל של התלות האנושית הספציפית של עובדי המגזר הציבורי במערכות אלה ומשמעותה. תלות מסוימת זו, עלולה להוביל לא רק לאובדן הכישורים והיכולות האנושיות שנמנו, אלא גם בסופו של דבר להחלטות מדיניות ממשלתית לא טובות, אשר יש להן השפעה כבדה על האזרח ואף עלולה להוביל לפגיעה בזכויותיו.

שלישית, בחלקו השני של המדריך, משולב נספח 'קווים מנחים כלליים למשתמש הקצה' ובו מספר סעיפים מעוררי מחשבה ושאלות:

• קו מנחה יישומי ראשון בנספח מצוי בסע' 2.1.1, ומתייחס למצב שבו עובד מגזר ציבורי משתמש במערכת בינה מלאכותית ברשיון פרטי חיצונית לארגון ולא ייעודית לו. מוגדר כי אין לעשות שימוש ביישומי בינה מלאכותית יוצרת אשר פותחו ופועלים במדינות שאינן דמוקרטיות. הגם שהרציונל בבסיס הקו המנחה ברור, זהו קו שעובד מגזר ציבורי, לא ידע איך עליו להתייחס אליו בהיבט הפרקטי. קו מנחה זה מעורר יותר שאלות מאשר תשובות, למשל – מהיכן יתחיל העובד בבירור הנושא? באיזה אופן נמדדת דמוקרטיה לצורך זה? כיצד נמדדת מדינה דמוקרטית בהקשרי מערכות ומנועי בינה מלאכותית?
• קו מנחה אחר מצוי בסע' 2.1.2, ומגדיר שאין להזין למערכות חיצוניות מידע מוגן מסוגים שונים. מדינות שונות אשר הטמיעו בינה מלאכותית בעבודת המגזר הציבורי, יצרו מערכת בינה מלאכותית סגורה וייעודית עבור עובדיו. בין היתר, כדי למנוע דליפת מידע או מצב שבו מערכת חיצונית מתאמנת על מידע מוגן. לכן, ראוי לשקול האם בכלל לאפשר שימוש במערכות חיצוניות ופתוחות במסגרת עבודת המגזר הציבורי.
• קו מנחה חשוב במיוחד נוגע לשקיפות ותיעוד (סע' 7), ומעצם ניסוחו מציף את הדילמה שקיימת בין הבחירה במדיניות של המלצות לבין בחירה במדיניות של כללים מחייבים. בסעיף נכתב כך:

"אם נעשה שימוש משמעותי במערכות בינה מלאכותית יוצרת בגיבוש תוצרים, מומלץ ככל הניתן, בהתאם לנסיבות, לציין זאת בתוצר הסופי. אין להציג תוכן שנוצר על ידי בינה מלאכותית כאילו הוא פרי יצירה אנושית מקורית. נוסף על כך, במקרה של הסתייעות במערכת לצורך קבלת החלטה (למשל, במקרה של מערכות ייעודיות שהוטמעו בפעילות הארגון), יש לתעד את השימוש במערכת" (ההדגשות אינן במקור).

נוסח זה מציף סתירה פנימית קלה באשר לאופיו של המדריך, מפני שמהשפה שבה נכתב במסגרתו ניכר שמדובר במדריך לא מחייב אשר כולל המלצות (ניתן להבין זאת גם בעקבות השימוש החוזר במילים כמו: 'עדיף' / 'כדאי' / 'מומלץ'). אך בסעיף זה, קיים שילוב בין ניסוח שמלמד כי מדובר בהמלצה (מומלץ), לבין כאלה שמשקפים כי חלה חובה על המשתמש (אין / יש). דוגמה זו מגלמת מדוע חשוב שכל מערכת ממשל שמעוניינת להטמיע בינה מלאכותית בעבודתה, תבחן ותכריע באופן חד משמעי, האם היא עושה זאת באמצעות כללים מחייבים ואכיפים כלפי עובדיה, כללים אשר אולי יש בצדם סנקציות משמעתיות, או באמצעות המלצות רכות בלבד. כך תיווצר בקרב עובדי הציבור ודאות ברורה יותר.

• קו מנחה משמעותי נוסף מצוי בסעיף 3, אשר מסביר כי בעת השימוש בבינה מלאכותית בתהליכי קבלת החלטות יש להתייחס לתוצאות המתקבלות כתומכות החלטה אנושית, ולא כמקור יחיד לקבלת מידע או כהחלטה סופית. ככל שהקווים המנחים דורגו לפי סדר חשיבותם, ראוי שהיה ממוקם במדרג גבוה יותר כקו עיקרי לענייננו.
• הקו המנחה האחרון מצוי בסעיף 9, והוא דוחף את משתמשי הקצה לגלות אוריינות גבוהה בכלי בינה מלאכותית יוצרת, וממליץ להשתתף בקורסים ולקרוא מאמרים בנושא באופן תכוף. זהו היבט מרכזי וחשוב אל עבר הנחלת שימוש אחראי בבינה מלאכותית. כמהלך משלים לכך, יש לעודד את עובדי המגזר הציבורי גם לשימוש יעיל. לכן, אנו ממליצים להקים מערך הכשרה ייעודי אשר יתדרך את עובדי המגזר הציבורי באשר לשימוש במערכות בינה מלאכותית, וילווה אותם בשגרת העבודה דרך קבע. כלי הבינה המלאכותית מתאפיינים בשינויים ועדכונים תכופים מאוד. שליטה ומיומנות גבוהות בכלים אלה מצד עובדי המגזר הציבורי, תאפשר שימוש בהם באופן אחראי ויעיל כאחד.

כתיבת מדריך לשימוש אחראי בטכנולוגיה מתקדמת, הוא צעד מבורך והכרחי להטמעה מקיפה שלה במגזר הציבורי. על מנת להשלים את מלאכת הטמעת הבינה המלאכותית בארגונים ציבוריים, אנו ממליצים על מיסוד גורם מתכלל אשר יהיה אמון על מלאכת התיאום בין גופי המגזר הציבורי בעת הטמעת הבינה המלאכותית בעבודתם. כך יתאפשר סנכרון בין אחראי המשילות השונים, ותקשורת טובה בין המשרדים בשלב השימוש במערכות אלה לצד זאת, אנו ממליצים לחדד מהן השלכות של שימוש תלותי במערכות בינה מלאכותית בפרט כאשר הוא מתקיים במגזר הציבורי, בדמותן של החלטות מדיניות ממשלתית לא טובות, אשר ישפיעו ישירות על האזרח. לבסוף, אנו סבורים שעל ניסוחם של כלל הקווים הכלליים למשתמשי הקצה, להיות ישימים יותר ומתועדפים בהתאם לסדר חשיבותם.