בחברת אמזון, ענקית המסחר האלקטרוני ושירותי הענן, מועסקים קרוב למיליון עובדים (נכון ליולי 2020), אחת מהמשמעויות של המספר העצום הזה הוא צורך לנהל באופן מקוון וחכם את תהליך הגיוס של עובדים לחברה. תהליך שממיין עשרות אלפי קורות חיים בשנה. למרבה המזל, צוות מיוחד של כח האדם הטכנולוגי בחברה, בעזרת יכולות המחשוב האדירות שקיימות בה הצליח לייצר, בשנים 2014-15, מודל מבוסס על אינטליגנציה מלאכותית וקריאה ממוחשבת של כלל מסמכי קורות החיים, ובהתאם לכך לייצר באופן אוטומטי, ציון לכל מועמד שנע בין כוכב אחד (לא מתאים לאמזון) לחמישה כוכבים (מתאים ביותר לגיוס לחברה). לרוע המזל לרוע המזל, לאחר בחינה והסתכלות על ציוני המועמדים השונים שהתקבלו במסגרת המודל בשנתיים לאחר מכן, התגלה שהוא מוטה מגדרית, או בשפה פשוטה יותר, מפלה נשים לרעה. מה שהביא לכך שלמרות ההשקעה האדירה של כח אדם ומשאבים בבנייתו הוא נזנח ולא נעשה בו יותר שימוש. (תודה לאושרי בר גיל על הדוגמה הזו).

בתחקיר פוסט מורטם שניסה להתחקות אחר הסיבות לכישלון, התברר שהמודל "לימד את עצמו" לתת ציונים נמוכים יותר לקורות חיים אשר הכילו סימנים שציינו שמדובר במועמדת (לדוגמה משפט כגון: "חברת נבחרת נשים בשחמט בקולג'")בבחינת המשך, בניסיון להבין למה מועמדות קיבלו ציונים נמוכים יותר ממועמדים, התגלה שהמודל התבסס על מאגר קורות החיים של כוח העבודה שהיה קיים עד לאותם השנים באמזון, כח עבודה שמן הסתם רובו היה גברי, וכך בקשה של מועמדת להתקבל לחברה זכתה לציוני התאמה נמוכים יותר, כיוון שמראש יש מעט נשים כמוה בארגון.

תיאור המקרה הזה ממחיש לא רק את המגבלות של מודלים מבוססי אינטליגנציה מלאכותית ולמידת מכונה בהיבטי סינון מועמדים לתפקידים, אלא גם את התובנה ששילוב יותר נשים, ביותר תפקידים, דרגות ועיסוקים, בהתאם למרבית המחקרים המצביעים על היתרון הקיים בצוותים, ארגונים וחברות בעלות כח עבודה מגוון בכלל רמות הארגון, אינו יכול להיות מקודם על ידי אלגורתימים או מודלים ממוחשבים, שכן אלו מסתמכים על המצב הקיים שאותו נדרש לשנות. זה בדיוק הזמן להזכר באותו ציטוט של אינשטיין, על כך שלא ניתן לפתור בעיות באמצעות אותה צורת חשיבה שיצרה אותן. בהתאם לכך, הסתכלות סוציולוגית והיסטורית מצביעה על כך שבמקרים רבים, ההתקדמות המשמעותית בשילוב נשים בתפקידים, דרגות ומקצועות שהיו חסומים בפניהן, הייתה על סמך החלטה "ערכית" לגבי הצורך בשילוב הזה, כדוגמת בג"צ אליס מילר אשר הכריח את חיל האוויר לשלב נשים במסגרת קורס הטיס, למרות ההתנגדות שהייתה אז (וכמובן גובתה ב "נתונים"). התקדמות אחרת, כמובן התקיימה בעקבות "אילוץ", כדוגמת שילובן של נשים בכח העבודה האמריקאי בזמן מלחמת העולם השנייה – גם במקרה הזה לא היה שום קשר לנתונים.

כאשר מסתכלים על הגורמים המאפשרים ומעכבים התקדמות בקריירה ובשוק בעבודה בחלוקה מגדרית, מן הסתם מוצאים שנשים עסוקות יותר באפשרות לשלב את חיי העבודה והמשפחה ומייחסות יותר ערך לגמישות בשעות העבודה, היקף המשרה והאפשרות לעבודה מהבית. ממצאים לא מפתיעים בהתחשב בעובדה שבאופן מסורתי (ותקופת הקורונה אף הקצינה את המצב הזה), עיקר הטיפול בבית ובמשפחה הוא על נשים. המשמעות היא שאם אכן ישנו רצון להגדיל את שיעור הנשים בקרב הדרגות הבכירות יותר בארגון, הרי שלא ניתן להסתפק בהצהרות על חשיבותן של נשים לארגון, או בבחינה עיוורת על סמך נתוני עבר, אלא נדרשת הסתכלות הוליסטית על האופן שבו ניתן ורצוי להתאים את הארגון, כך שיתאפשר למירב הנשים הקיימות בו למצות את מירב יכולותיהן. (מיותר לציין שמהתאמות כאלו ירוויחו גם גברים. יוזמת "אבא בארבע" המתקיימת בנציבות שירות המדינה, ומיועדת לעודד אבות לשמור על איזון בית עבודה, מהווה דומה להתאמה כזו המופנית לגברים).

ומה לגבי אלגוריתמים ובינה מלאכתותית? ריבוי הנתונים והמידע הקיים בעידן הנוכחי, מן הסתם יחייב שימוש גם בהם, לטובת סיוע במיון, סינון ושיבוץ מועמדים. רק המלצה אחת, כדי שהם באמת יעודדו גיוון ושילוב – שווה לראות שבצוות שמפתח אותם, יש גם נשים. גם אלו היו חסרות באותו צוות מפתח של אמזון.