כתבות עם התגית אתיקה בינה מלאכותית

תחום הבינה המלאכותית הפך להיות חלק משמעותי בתעשיות רבות ואנו עדים לחברות ענק המשקיעות סכומי עתק בטכנולוגיה זו. לצד זאת, הבינה המלאכותית הפכה להיות אלמנט חשוב מאוד באסטרטגיה הכללית של מדינות שונות ברחבי העולם, כאשר כל אחת רוצה להבטיח כי היא לא נשארת מאחור בתחום אסטרטגיה שכזה. מדינת ישראל, בדומה למדינות רבות אחרות, הבינה כי עליה לגבש אסטרטגיה משלה בתחום הבינה המלאכותית – כזו שתאפשר לה לגבש אסטרטגיה לאומית לשנים הבאות.

לשם כך התבקשו הפרופסורים איציק בן-ישראל ואביתר מתניה להקים ועדות לאומיות שיבחנו זוויות שונות של התחום ואף יגבשו המלצות קונקרטיות לדרך בה אפשר לדאוג כי מדינת ישראל תישאר רלוונטית במרוץ החימוש הטכנולוגי החדש. הדוח המלא טרם פורסם ורק חלקים ממנו שוחררו בראיון שהתקיים עם פרופסור בן ישראל. עם זאת, דוח של ועדת המשנה בנושא אתיקה ורגולציה של בינה מלאכותית פורסם וזמין כעת לקריאה. תת ועדה זו הייתה בראשות פרופ׳ קרין נהון ולי היה הכבוד, לצד גורמים מקצועיים נוספים, לקחת חלק בוועדה.

בדוח נסינו לקחת נושא מורכב זה, אתיקה ורגולציה בתחום הבינה המלאכותית, ולהפוך אותו לכמה שיותר ברור ונגיש. בדו"ח תוכלו למצוא שלושה פרקים עיקריים הדנים בסוגיה כולה. הפרק הראשון עוסק בהכרת עולם הבעיה ובסיבות מדוע בינה מלאכותית צריכה התייחסות רגולטורית ואתית מיוחד. כמו כן, בפרק זה נגענו גם במה הוועדה לא עוסקת והיכן מתחיל ומסתיים הדיון אותו אנחנו רוצים ליצור.

הפרק השני עסק באתיקה ובינה מלאכותית בו הצפנו מספר נקודות שיש לבחון בעת פיתוח מוצר מבוסס בינה מלאכותית. שמנו דגש על מושגים מוכרים מעולם תוכן זה אשר מאפשרים לנו לבחון היכן אנחנו עתידים ליצור בעיה אתית בפיתוח כזה או אחר (הוגנות, שקיפות, בטיחות ועוד). לצד ההגדרה של המושגים האלו יצרנו גם כלי המאפשר לכל גורם העוסק בתחום להבין באילו מקרים הוא "נופל" בכל אחד מהמושגים החשובים שהגדרנו וכיצד הוא יכול להימנע מכך. כדי להדגים את השימוש בכלי סקרנו מספר מקרי בוחן בהם בוצעו הפרות אתיות בפרויקט שונים והדגמנו כיצד ניתן להשתמש בכלי במקרי בוחן אלו. הכלי יוכל לשמש הן מקבלי החלטות והן מפתחים בזמן פיתוח של מערכות בינה מלאכותית.

הפרק השלישי עוסק בבינה מלאכותית ואסדרה ומתייחס להיבטים אלו בהקשרי משילות האתית והמשפטית בתחום הבינה המלאכותית. בפרק זה יצרנו טבלה המפרטת את סוגי האסדרות השונות והיתרונות והחסרונות בכל דרך פעולה. לבסוף, בנספח א' ניתן למצוא סקירה קצרה שנעשתה על המצב בארה"ב ובאירופה וכיצד הם הגדירו את האסטרטגיה שלהם בתחום זה.

הדוח כולו נמצא כאן:

לכתבה המלאה >>

בימים האחרונים הגיע לארץ ג'ף דין, סגן נשיא בכיר וראש תחום בינה מלאכותית בגוגל. הוא ללא ספק אחת הדמויות הבכירות ביותר בעולם בנושא ה-AI – רוקסטאר של העולם שלי.
 
אתמול הייתה לי הזכות לקחת חלק באירוע מצומצם שהתקיים בגוגל קמפוס בו הוא דיבר בצורה חופשית על הדרך שבה גוגל משתמשת ב-AI כדי לפתור בעיות עולמיות. החל מזיהוי שטפונות ועד לגילוי מוקדם של מחלות – כל אלה פרויקטים של גוגל שכבר רצים ומצליחים להראות תוצאות מרהיבות. לקראת הסוף הוא הגיע לשקף שבו מדבר על הכללים והעקרונות שמנחים את גוגל בעת פיתוח מודלים מתקדמים. ג'ף ציין כי הם שמים דגש מאוד גדול כדי לגרום לאלגוריתמים שלהם להיות כמה שיותר הוגנים ואף הראה שורה ארוכה של מאמרים שפורסמו שעוסקים בדיוק בסוגיה הזו.
 
בחלק הזה הרגשתי צורך עז לשאול אותו על איך הם עושים את זה בפרקטיקה. זה נחמד שיש מסמך פומבי אבל מאוד סקרן אותי לדעת איך זה פוגש אותם ביום יום. להפתעתי המוחלטת, ג'ף הביא תשובה מאוד מסקרנת שחשפה, בפעם הראשונה עד כמה שידוע לי, על איך נראה תהליך שכזה בגוגל. ג'ף התחיל והסביר שהדבר הראשון שהם עושים, אשר בעל חשיבות רבה עבורם, הוא להסביר את העקרונות האלה לכל העובדים שמתעסקים בפיתוח מסוג זה. ג'ף ממש הדגיש כי יש לו חשיבות רבה לכך שזה לא יהיה "סתם מסמך פומבי" אלא משהו שכל עובד מכיר.

לכתבה המלאה >>

X