מערכות מבוססות בינה מלאכותית הפכו להיות כלי לשימוש יומיומי עבור מגוון צרכים אנושיים. ממשלות רבות בעולם החלו להטמיע מערכות אלה בעבודת משרדיהן והרשויות השונות, במטרה לייעל ולשפר את השירות לאזרח. ישראל צועדת צעדים ראשונים בשילוב רשמי של בינה מלאכותית במגזר הציבורי על תחומיו, ולאחרונה פרסם מערך הדיגיטל הלאומי מדריך ראשון מסוגו בישראל לשימוש אחראי בבינה מלאכותית במגזר הציבורי. המדריך מוגדר כמתווה להטמעה מושכלת של בינה מלאכותית בעבודת המגזר הציבורי, במטרה לעודד חדשנות ולשפר את השירות לאזרח. הוא כולל עקרונות עבודה בסיסיים לשימוש אחראי בבינה מלאכותית בגוף ציבורי, מצביע על מינוי בעלי תפקידים שיעסקו בנושא וקווים מנחים כלליים לעובדי המגזר הציבורי עת משתמשים הם בבינה מלאכותית במסגרת עבודתם. כמו כן, המדריך מציף אל המודעות סוגיות חשובות ועוסק בהיבטים שנוגעים בתהליך הטמעת בינה מלאכותית בעבודה היומיומית של המגזר הציבורי. בסקירה זו נדון בהנחיות הכלולות במדריך, כיצד הן משפיעות על שימוש של כלי בינה מלאכותית במינהל הציבורי בישראל, ונעלה מספר שאלות שראוי לתת להן מענה. 

מהו שימוש אחראי בבינה מלאכותית בעבודת המגזר הציבורי?

שימוש אחראי בבינה מלאכותית (Responsible stewardship of trustworthy AI) היא גישה שעליה הצביע  ארגון ה-OECD ותיאר לראשונה במסגרת המלצותיו בנושא משנת 2019. מטרת גישה זו היא להוביל לשימוש בבינה מלאכותית באופן מושכל, ובאמצעות הקפדה על כיבוד זכויות אדם וערכים דמוקרטיים, שקיפות והסברתיות, בטיחות המערכת, אחריותיות ובינה מלאכותית שתקודם למטרות צמיחה ורווחת הכלל. שימוש אחראי צריך להתבטא החל משלב הפיתוח של יישום הבינה המלאכותית ועד השימוש בו הלכה למעשה על-ידי משתמש הקצה.

מהי מטרת המדריך?

במסמך מוצהר כי הוא שואף להוות מתווה להטמעה מושכלת של טכנולוגיות בינה מלאכותית בשירות הציבור, ומכוון לשימוש אחראי במטרה לעודד חדשנות ולרתום את הפוטנציאל הטמון בטכנולוגיה על מנת לבצע קפיצת מדרגה בשירות לציבור. המדריך מניח את אחת האבנים הראשונות ביסודות השימוש בבינה מלאכותית בעבודת המגזר הציבורי בישראל, ומצביע על צעדים שעל ארגוניו לבצע על מנת להידרש לנושא לאט אבל בטוח.

מה כולל המדריך?

עיקרו של המדריך מצוי בשני חלקיו המרכזיים. הראשון מונה עקרונות בסיסיים לשימוש אחראי בבינה מלאכותית אשר מוצע לארגוני המגזר הציבורי להטמיע. השני מתאר תפיסה ארגונית לשימוש אחראי בבינה מלאכותית ובמסגרת זו מציע למנות שני בעלי תפקידים מרכזיים: 'אחראי משילות בינה מלאכותית' – אשר אמון על קביעת ותפעול המדיניות הארגונית לשימוש אחראי בבינה מלאכותית, ו'אחראי יישום עסקי' – אשר מוביל תהליכי הטמעת מערכת בינה מלאכותית בארגון עבור צרכים עסקיים ספציפיים.

לאלה מצורפים נספחים בנושאים שונים: נספח המפרט את תפקידיהם של אחראי משילות בינה מלאכותית ואחראי יישום עסקי, נספח המפרט קווים מנחים למשתמשי קצה בבינה מלאכותית במגזר הציבורי, ונספח המציע מתודת ניהול סיכונים ובו פירוט של אמצעים טכניים חשובים לצמצום סיכונים שעלולים להתעורר בעת השימוש בבינה מלאכותית.

המדריך מתייחס לתפקידים ולאחריות של הגורמים העיקריים בתהליך, וביחס לכל אחד מהם מפורטים צעדים בתהליך ניהול הסיכונים שעליהם לבצע. בנוסף, המדריך כולל קווים מנחים למשתמשי הקצה – עובדי המגזר הציבורי שמשתמשים במערכות בינה מלאכותית בעבודתם.

מה טוב במדריך?

ישראל צועדת צעדים ראשונים בהטמעת בינה מלאכותית במגזר הציבורי. המדריך מהווה מסגרת ראשונית שמספקת ליחידות ממשלתיות כלי עזר במענה לסוגיות שניצבות במרכז תהליך הטמעת מערכות בינה מלאכותית. פרסום המדריך עורך יישור קו עם מדינות מובילות בעולם שכבר נמצאות בעיצומה של הטמעה זו. ניכר שתוכנו נכתב במטרה לעודד חדשנות וקידמה, תוך הפניית תשומת הלב אל המגבלות שטמונות במערכות בינה מלאכותית. ביסוס המדריך על תקינה מרכזית מאת ה-OECD, מסייעת בקביעת גבולות גזרה ראויים לשימוש במערכות אלה במגזר הציבורי.

עבור יחידה במשרד ממשלתי, מהווה המדריך כלי עזר משמעותי בניווט בעולם ההטמעה, וצעדים ראשונים שמוצע לה לבצע. המדריך מסביר לעומק מהי משמעותו של שימוש אחראי בבינה מלאכותית בארגון, ממפה ומסביר מהו תפקיד הנהלת הארגון בתהליך ההטמעה; מציע למנות שני בעלי תפקידים מרכזיים לצורך קביעת נהלי השימוש והפעלתם בארגון עם הנחיות מפורטות שלב אחר שלב; מספק הנחיות כלליות לשימוש מושכל בבינה מלאכותית למשתמשי הקצה (עובדי גוף ציבורי), תוך הצפת מגבלותיהן של מערכות אלה למודעות המשתמשים; ולבסוף מציע מודל מקיף לניהול סיכונים החל משלב המחשבה על המערכת, דרך תכנונה ובנייתה ועד היישום והשימוש בה בפועל. בין היתר, הוא מבהיר כי תוצאות שמתקבלות במערכות בינה מלאכותית הן תומכות החלטה אנושית ולא מהוות החלטה סופית.

אילו מגבלות מאפיינות מערכות מבוססות בינה מלאכותית?

עם המגבלות שנמנות במדריך נמצא בין היתר את תופעת ההזיות – כאשר הבינה המלאכותית מספקת מידע שגוי או מומצא לחלוטין; אובייקטיביות מוגבלת, אפליה והטיה – גם מערכות בינה מלאכותית זקוקות לדלק שיזין אותן כדי לפעול ולפעול טוב. הדלק שלהן הוא מאגרי נתונים בהיקפים משמעותיים שעל בסיסן הן מתאמנות. נתונים אלה מכילים מידע על אנשים ממוצאים מסוימים, ולכן יתכנו נקודות מבט שונות מצד מערכות בינה מלאכותית ואפליה לטובת אוכלוסיה מסוימת על פני אחרת, שהתוצאות מפלות בשל שימוש במאגרי מידע מוטים שאינם מייצגים את האוכלוסיה הרחבה באופן מספק, או שהמידע עצמו מגלם אפליה שמתקיימת בחברה ; מגבלה נוספת היא הסכנה למידע מוגן בזכויות יוצרים – כאשר המערכת עלולה למסור למשתמשים מידע שמייצר סיכון להפרת זכות יוצרים, או סכנה למידע מוגן שהוא מידע אישי – השימוש בבינה מלאכותית מוביל להצטברות מידע רב שהמשתמש מכניס אל המערכת מעצם שאילת השאלות וקיום השיח עמה, וכל המידע נאגר במערכת.

מה ראוי להוסיף למדריך כדי לטייב את השימוש בבינה מלאכותית במינהל הציבורי בישראל?

יש ברכה רבה בעיסוק של הממשלה בהשפעה של התקדמות פיתוחי בינה מלאכותית וקליטתם בעבודת הממשל. כדי לייצר בסיס טוב למיצוי מיטבי של כלים כאלה תוך אימוץ זהיר ואחראי, אנו סבורים שניתן לשקול מספר תוספות למדריך.

ראשית, המדריך מציע למנות בכל ארגון 'אחראי למשילות בינה מלאכותית' שיישמרו לו סמכות קביעת המדיניות הארגונית בנושא ותפעולה. החלטה לאפשר לכל אחראי בכל משרד לקבוע מדיניות עבור הארגון שלו, מתחברת למדיניות הסקטוריאלית בהטמעת בינה מלאכותית, אשר ניכרת גם בפרסומים קודמים של משרד החדשנות, המדע והטכנולוגיה בנושא.

אנו סבורים כי לצד ההמלצה למנות גורם ארגוני אשר אמון על קביעת המדיניות בעצמו, חשוב לשמור על תיאום, סנכרון ויישור קו בין אחראי המשילות שיתמנו בכלל הארגונים והמשרדים במגזר הציבורי. לכן, ככל שעתיד להתמנות בעל תפקיד בכיר בתחום הבינה המלאכותית אשר אמון על הובלת התחום ברמה הממשלתית, אנו מציעים כי הוא יוגדר כגורם שאחראי הן על התכלול והתיאום בין אחראי המשילות בארגוני המגזר הציבורי כולו, והן על הנחייתם המקצועית באופן שוטף לביצוע תפקידם. כך, תהיה כתובת מקצועית ברורה לכלל אחראי המשילות במגזר הציבורי, יימנע חוסר תיאום אשר עלול להקשות על הטמעת בינה מלאכותית ותובטח עמידה בסטנדרטים משותפים ואחידים בהטמעת הבינה המלאכותית מצד כל ארגון בשירות הציבורי (לצד התאמות ספציפיות שייעשו בכל ארגון בהתאם לצרכים ספציפיים).

שנית, במדריך מוזכרת בצדק רב, התלות האנושית הגוברת במערכות מבוססות בינה מלאכותית. נכתב בו, שהתלות עלולה להיות בעייתית במיוחד ביחס לתוצאות המתקבלות ממערכות בינה מלאכותית שאמורות להיות תומכות החלטה אנושית. בהקשר זה, אנו סבורים שחסרה במדריך אמירה ברורה וישירה בעניין כובד המשקל של התלות האנושית אשר עלולה להיווצר בקרב עובדי המגזר הציבורי באופן ספציפי. לשימוש במערכות בינה מלאכותית בעבודת המגזר הציבורי, נלווית רגישות ואחריות ציבורית כבדה יותר מאשר בשימוש בהן לצרכים פרטיים. תלות במערכות אלה בקרב עובדי המגזר הציבורי, עלולה להוביל לא רק לאובדן כישורים ויכולות אנושיות, אלא גם להחלטות מדיניות ממשלתית לא טובות אשר יש להן השפעה כבדה על האזרח ברמת המיקרו, ואף לאיום על איכות השירות הציבורי ועל אמון הציבור במוסדות המדינה ברמת המאקרו.

שלישית, בחלקו השני של המדריך, משולב נספח 'קווים מנחים כלליים למשתמש הקצה' ובו מספר סעיפים מעוררי מחשבה ושאלות:

• קו מנחה יישומי ראשון בנספח מצוי בסע' 2.1.1, ומתייחס למצב שבו עובד מגזר ציבורי משתמש במערכת בינה מלאכותית ברשיון פרטי חיצונית לארגון ולא ייעודית לו. מוגדר כי אין לעשות שימוש ביישומי בינה מלאכותית יוצרת אשר פותחו ופועלים במדינות שאינן דמוקרטיות. הגם שהרציונל בבסיסו ברור, זהו קו מנחה אשר משתמש הקצה לא ידע כיצד להתייחס אליו בהיבט הפרקטי, ומעורר שאלות כגון: מהיכן על העובד להתחיל בבירור הנושא? כיצד נמדדת מדינה דמוקרטית בהקשרי מערכות וכלים מבוססי בינה מלאכותית? אנו סבורים שנכון להוסיף הבהרה באשר למיהו הגורם שיודע להשיב לעובד על שאלות אלה, אילו כלים מותרים לשימוש בהקשר זה או להפנותו אל מקור מידע מהימן שבאמצעותו יוכל לברר את הנושא (ככל שאחראי המשילות לבינה מלאכותית בארגון הוא הכתובת, מומלץ לוודא שיש בידיו מענה לכל אלה).
• קו מנחה משמעותי נוסף מצוי בסעיף 3, ומסביר כי בעת השימוש בבינה מלאכותית בתהליכי קבלת החלטות יש להתייחס לתוצאות המתקבלות כתומכות החלטה אנושית, ולא כמקור יחיד לקבלת מידע או כהחלטה סופית. הימצאותו של "אדם בחוג" בכל הקשור לשימוש במערכות מבוססות בינה מלאכותית, הינה אכן סוגיה ראשונה במעלה. לכן, ככל שהקווים המנחים למשתמש הקצה מוקמו במדריך לפי סדר חשיבותם, ראוי שהיבט זה יוגדר כקו מנחה עיקרי וימוקם בין הסעיפים הראשיים במדריך.
• קו מנחה חשוב במיוחד נוגע לשקיפות ותיעוד (סע' 7), ומעצם ניסוחו מציף את הדילמה שקיימת בין הבחירה במדיניות של המלצות לבין בחירה במדיניות של כללים מחייבים. בסעיף נכתב כך:

"אם נעשה שימוש משמעותי במערכות בינה מלאכותית יוצרת בגיבוש תוצרים, מומלץ ככל הניתן, בהתאם לנסיבות, לציין זאת בתוצר הסופי. אין להציג תוכן שנוצר על ידי בינה מלאכותית כאילו הוא פרי יצירה אנושית מקורית. נוסף על כך, במקרה של הסתייעות במערכת לצורך קבלת החלטה (למשל, במקרה של מערכות ייעודיות שהוטמעו בפעילות הארגון), יש לתעד את השימוש במערכת" (ההדגשות אינן במקור).

ניסוחו הקיים של הסעיף מערב ניסוח רך ("מומלץ") עם ניסוח של חובה ("יש/אין לתעד/להציג" וכד') ובכך מייצר אי בהירות וודאות באשר לאופיו של המדריך. בין אפשרויות ההטמעה של בינה מלאכותית, קיימת מדיניות של המלצות רכות או מדיניות של כללים מחייבים ואכיפים כלפי העובדים. אנו סבורים שעל כל מערכת ממשל שמעוניינת להטמיע בינה מלאכותית בעבודתה, לבחון ולהכריע בבירור באיזו מדיניות היא נוקטת ולשקף זאת גם בניסוח הכללים ובאופן אחיד.

• הקו המנחה האחרון מצוי בסעיף 9, והוא דוחף את משתמשי הקצה לגלות אוריינות גבוהה בכלי בינה מלאכותית יוצרת, וממליץ להשתתף בקורסים ולקרוא מאמרים בנושא באופן תכוף. זהו היבט מרכזי במסע אל עבר הנחלת שימוש אחראי בבינה מלאכותית במגזר הציבורי ובכלל. כמהלך משלים לכך, ובמטרה לעודד את עובדי המגזר הציבורי גם לשימוש יעיל, אנו ממליצים להקים מערך הכשרה ייעודי אשר יהווה כתובת לכלל עובדי המגזר הציבורי באשר לשימוש במערכות מסוג זה, וילווה אותם דרך קבע בשגרת עבודתם, באופן יזום, ייעודי ומותאם לצרכי הארגון הספציפיים. מאחר שכלי הבינה המלאכותית מתאפיינים בשינויים ועדכונים תכופים מאוד, שליטה ומיומנות גבוהות בהם תאפשר לעובדי המגזר הציבורי להשתמש בהם באופן אחראי ויעיל כאחד.

כתיבת מדריך לשימוש אחראי בטכנולוגיה מתקדמת, הוא צעד מבורך והכרחי להטמעה מקיפה שלה במגזר הציבורי. על מנת להשלים את מלאכת הטמעת הבינה המלאכותית בארגונים ציבוריים, אנו ממליצים על מיסוד גורם מתכלל אשר יהיה אמון על מלאכת התיאום בין גופי המגזר הציבורי בעת הטמעת הבינה המלאכותית בעבודתם. כך יתאפשר סנכרון בין אחראי המשילות השונים, ותקשורת טובה בין המשרדים בשלב השימוש במערכות אלה לצד זאת, אנו ממליצים לחדד מהן השלכות של שימוש תלותי במערכות בינה מלאכותית בפרט כאשר הוא מתקיים במגזר הציבורי, בדמותן של החלטות מדיניות ממשלתית לא טובות, אשר ישפיעו ישירות על האזרח. לבסוף, אנו סבורים שעל ניסוחם של כלל הקווים הכלליים למשתמשי הקצה, להיות ישימים יותר ומתועדפים בהתאם לסדר חשיבותם.