פורסם: דוח ועדת המשנה הלאומית למערכות נבונות בנושא אתיקה ורגולציה של בינה מלאכותית

תחום הבינה המלאכותית הפך להיות חלק משמעותי בתעשיות רבות ואנו עדים לחברות ענק המשקיעות סכומי עתק בטכנולוגיה זו. לצד זאת, הבינה המלאכותית הפכה להיות אלמנט חשוב מאוד באסטרטגיה הכללית של מדינות שונות ברחבי העולם, כאשר כל אחת רוצה להבטיח כי היא לא נשארת מאחור בתחום אסטרטגיה שכזה. מדינת ישראל, בדומה למדינות רבות אחרות, הבינה כי עליה לגבש אסטרטגיה משלה בתחום הבינה המלאכותית – כזו שתאפשר לה לגבש אסטרטגיה לאומית לשנים הבאות.

לשם כך התבקשו הפרופסורים איציק בן-ישראל ואביתר מתניה להקים ועדות לאומיות שיבחנו זוויות שונות של התחום ואף יגבשו המלצות קונקרטיות לדרך בה אפשר לדאוג כי מדינת ישראל תישאר רלוונטית במרוץ החימוש הטכנולוגי החדש. הדוח המלא טרם פורסם ורק חלקים ממנו שוחררו בראיון שהתקיים עם פרופסור בן ישראל. עם זאת, דוח של ועדת המשנה בנושא אתיקה ורגולציה של בינה מלאכותית פורסם וזמין כעת לקריאה. תת ועדה זו הייתה בראשות פרופ׳ קרין נהון ולי היה הכבוד, לצד גורמים מקצועיים נוספים, לקחת חלק בוועדה.

בדוח נסינו לקחת נושא מורכב זה, אתיקה ורגולציה בתחום הבינה המלאכותית, ולהפוך אותו לכמה שיותר ברור ונגיש. בדו"ח תוכלו למצוא שלושה פרקים עיקריים הדנים בסוגיה כולה. הפרק הראשון עוסק בהכרת עולם הבעיה ובסיבות מדוע בינה מלאכותית צריכה התייחסות רגולטורית ואתית מיוחד. כמו כן, בפרק זה נגענו גם במה הוועדה לא עוסקת והיכן מתחיל ומסתיים הדיון אותו אנחנו רוצים ליצור.

הפרק השני עסק באתיקה ובינה מלאכותית בו הצפנו מספר נקודות שיש לבחון בעת פיתוח מוצר מבוסס בינה מלאכותית. שמנו דגש על מושגים מוכרים מעולם תוכן זה אשר מאפשרים לנו לבחון היכן אנחנו עתידים ליצור בעיה אתית בפיתוח כזה או אחר (הוגנות, שקיפות, בטיחות ועוד). לצד ההגדרה של המושגים האלו יצרנו גם כלי המאפשר לכל גורם העוסק בתחום להבין באילו מקרים הוא "נופל" בכל אחד מהמושגים החשובים שהגדרנו וכיצד הוא יכול להימנע מכך. כדי להדגים את השימוש בכלי סקרנו מספר מקרי בוחן בהם בוצעו הפרות אתיות בפרויקט שונים והדגמנו כיצד ניתן להשתמש בכלי במקרי בוחן אלו. הכלי יוכל לשמש הן מקבלי החלטות והן מפתחים בזמן פיתוח של מערכות בינה מלאכותית.

הפרק השלישי עוסק בבינה מלאכותית ואסדרה ומתייחס להיבטים אלו בהקשרי משילות האתית והמשפטית בתחום הבינה המלאכותית. בפרק זה יצרנו טבלה המפרטת את סוגי האסדרות השונות והיתרונות והחסרונות בכל דרך פעולה. לבסוף, בנספח א' ניתן למצוא סקירה קצרה שנעשתה על המצב בארה"ב ובאירופה וכיצד הם הגדירו את האסטרטגיה שלהם בתחום זה.

הדוח כולו נמצא כאן: