אתיקה ו-AI בגוגל: ג'ף דין מסביר על התהליך הפנימי של פיתוח מודלים מתקדמים

אתמול הייתה לי הזכות לקחת חלק באירוע מצומצם שהתקיים בגוגל קמפוס בו הוא דיבר בצורה חופשית על הדרך שבה גוגל משתמשת ב-AI כדי לפתור בעיות עולמיות. החל מזיהוי שטפונות ועד לגילוי מוקדם של מחלות – כל אלה פרויקטים של גוגל שכבר רצים ומצליחים להראות תוצאות מרהיבות. לקראת הסוף הוא הגיע לשקף שבו מדבר על הכללים והעקרונות שמנחים את גוגל בעת פיתוח מודלים מתקדמים. ג'ף ציין כי הם שמים דגש מאוד גדול כדי לגרום לאלגוריתמים שלהם להיות כמה שיותר הוגנים ואף הראה שורה ארוכה של מאמרים שפורסמו שעוסקים בדיוק בסוגיה הזו.

בחלק הזה הרגשתי צורך עז לשאול אותו על איך הם עושים את זה בפרקטיקה. זה נחמד שיש מסמך פומבי אבל מאוד סקרן אותי לדעת איך זה פוגש אותם ביום יום. להפתעתי המוחלטת, ג'ף הביא תשובה מאוד מסקרנת שחשפה, בפעם הראשונה עד כמה שידוע לי, על איך נראה תהליך שכזה בגוגל. ג'ף התחיל והסביר שהדבר הראשון שהם עושים, אשר בעל חשיבות רבה עבורם, הוא להסביר את העקרונות האלה לכל העובדים שמתעסקים בפיתוח מסוג זה. ג'ף ממש הדגיש כי יש לו חשיבות רבה לכך שזה לא יהיה "סתם מסמך פומבי" אלא משהו שכל עובד מכיר.

לאחר מכן, ופה מתחיל החלק המעניין, ג'ף הסביר כי לפני כל עבודה על פרויקט שכזה יש צוות יועצים פנימי שתפקידו לוודא שאכן אין בעיות אתיות עם המודל אותם הם רוצים לפתח. הצוות אמון על בדיקה של כל האלמנטים השונים בתהליך הפיתוח (החל מאיסוף הדאטה ועד שלבים מתקדמים יותר). ג'ף הביא דוגמא אחת לכך וציין כי הם עברו תהליך דומה כאשר רצו לייצר אלגוריתם שיודע לזהות חתונות. כדי להימנע רק מזיהוי של חתונות "מערביות" בו החתן לובש שחור והכלה לבן, הם ביקשו ממשתמשים מרחבי העולם לשלוח להם תמונות של חתונות שונות בהן יש לבוש מסורתי, חליפות שונות – או סתם לא תלבושות בנאליות של חתונה. וזה לא נגמר כאן. ג'ף ציין כי לאחר סיום התהליך יש צוות שכל תפקידו הוא לעבור על רשימת העקרונות של גוגל ולוודא שהיא אכן מתקיימת, רגע לפני שהמוצר מושק. הנקודה הזו נראתה לי קצת מוגזמת, הרי לא ייתכן שממש עוברים על רשימת העקרונות האתים ממש בכל מוצר. אז החלטתי להקשות ושאלתי את ג'ף אם באמת עושים את זה בכל מוצר. הוא השיב שכן. בצורה מאוד חד משמעית.

לאחר סיום ההרצאה שלו פניתי אליו וסיפרתו לו שאני חלק בוועדה ממשלתית שעוסקת באתיקה, חוק ומשפט בנושאי בינה מלאכותית ושזה היה מרתק מאוד לשמוע את המתודלוגיה שלהם בגוגל. בסוף שאלתי אותו אם יש מקום שבו אפשר לקרוא על זה יותר וציינתי שזה יכול כלי עזר מעולה לוועדה.