הבינה המלאכותית מאיימת? | המתכנת החב"די עושה סדר
משה כהנא, COL
הבינה המלאכותית מאיימת על העולם? זו כבר לא קונספירציה, גם 'מייקרוסופט' העולמית מודאגת ומבקשת רגולציה (הסדרה, פיקוח ואכיפה) על התחום פורץ הדרך שמאיים לשנות סדרי בראשית.
גם הספקנים ביותר מודים כי מדובר בקפיצת דרך שוות ערך לפחות לפריצת האינטרנט לחיינו, הן בשל היקף המידע העצום, והן בשל יכולות יש שיאמרו 'מטורפות' שניתנות ללא פיקוח לכל אדם, כסוג של כוח שיכול להפוך בידי אנשים לא אחראיים או 'רעים' מסוכן לשלום העולם.
הפסימיים יותר כבר מדברים בקול על חשש מ'קץ הקיום האנושי' ורואים במהפכה שפורצת בימים אלו לחיינו סכנה ברורה ומיידית ומשווים אותה לנשק גרעיני לא מפוקח.
כפי שפורסם לאחרונה, חברת מייקרוסופט העולמית מבקשת ממשלות בעולם להסדיר רגולציה ואכיפה בתחומים הבאים: במערכות בינה מלאכותית שמשמשות בתשתית קריטית יותקנו מערכות שמאפשרות לכבות אותן כליל או להגביל אותן מאד, הגדרת רישיונות לקבלת מודלים של בינה מלאכותית בעלת יכולת גבוהה במיוחד (בינת-על), חקיקה מסודרת ואחריות לנזקים שייגרמו, שקיפות כמניעה מפני הונאת צרכנים, ואכיפה מול לקוחות שיפרו את התנאים לרעה בשימוש בבינה המלאכותית.
*
COL שוחח עם ר' אריאל דיל, חסיד חב"ד תושב שכונת שער העיר לוד, ומתכנת בכיר מעל 20 שנה ועם ניסיון עשיר במגוון טכנולוגיות.
מה נשתנה נושא הבינה המלאכותית מכל הטכנולוגיות המתקדמות והמחשוב שפעילות עד היום? הרי מחשבים מתקדמים יכלו לעשות את אותן פעולות לכאורה?
ר' אריאל דיל: "בינה מלאכותית שונה מכל מה שהכרנו בעבר. ההבדל הוא בין הטכנולוגיות שהיו עד היום לבינה המלאכותית, שאם עד היום פיתחו טכנולוגיות שבהן יודעים להכתיב כל פעולה בצורה מדוייקת, אם קורה משהו כזה תגיב כך, עבור כל סיטואציה הטכנולוגיה ידעה להגיב עליה, אפשר לומר שעד היום הטכנולוגיות היו 'טפשות', יודעות לעשות רק מה שהכתיבו להן מראש.
מערכות בינה מלאכותית בנויות אחרת: אתה לא מכתיב להן מראש מה לעשות, אתה מלמד אותן, יש תהליך שנקרא למידת מכונה, שאיתה בונים משהו שנקרא מודל, ובמודל הזה המערכת מנסה להבין לבד, מה הכללים שלפיהן היא צריכה להגיב. בתוצאה הסופית, היא עלולה מצד אחד להבין הרבה מאוד דברים שאולי לא חשבת עליהם, מצד שני מתקבלות מסקנות לא נכונות.
אתן דוגמא: מה המודל של פושע סטנדרטי? מאוד יכול להיות שאחרי שהמערכת תנתח את המודל ותיווכח שנניח אחוז השחורים שמעורבים במעשי פשע בארה"ב גבוה יותר מאחוז הלבנים, או לחלופין אחוז הפשיעה משכונה מסויימת גבוה יותר מאזורים אחרים. המערכת עלולה 'לקטלג' כל אדם בקטגוריה כפוטנצייאל סיכון גבוה, מה שהתבונה האנושית מבינה שלא ניתן לבצע הכללות גזעניות או מגדריות. ההטייה שעלולה להתקבל במערכת בינה מלאכותית בעקבות מאגרי מידע שצברה, יכולה להביא למסקנות שגויות ומסוכנות. האדם יודע לתקן, לעומת זאת למידת מכונה מקבלת נתונים ומנסה לסכם מי בסדר ומי לא - ולפי זה לפעול.
"מעבר לזה יש את הבעיה של איבוד מקומות עבודה. כבר היום יש גרפיקאים, סופרים וכותבים שמאבדים מקומות עבודה בגלל שניתן כבר ליצור עבודות גרפיות במינימום מאמץ, ועבודות הגשה על סמך חומר שנתקבל ממערכת בינה מלאכותית.
יש הרבה מאוד דברים שמתכנתים פעם היו צריכים לעשות וכיום כמעט אוטומטית אפשר לקבל קודים למערכות תכנות שלמות. יתכן שגם גופים צבאיים ישתמשו בצעד אחד קדימה ויחליטו על בסיס מידע שגוי האם לפגוע במישהו. זה יכול להיות מאוד מסוכן אם המערכת לא הבינה נכון את המידע שהזינו לה ובעצם כל הסיכונים הללו מביאים לכך שממשלות ברחבי העולם רוצות להטיל מגבלות, כי אלו סיכונים מאוד משמעותיים.
"קופסה שחורה"
"היום אף אחד לא יודע מה באמת יש בתוך ה'קופסה השחורה' של הבינה המלאכותית. המערכת לומדת מהנתונים שקיבלה בצורה שאנחנו לא ממש מבינים, היא הגיעה למסקנה על סמך הררי מידע שהוזנו אצלה, איך הגיעה למסקנה לא תמיד קל להבין. זה כמו 'קופסה שחורה' ולכן כאמור בעולם חושבים איך לבצע עצירות ורגולציה כדי להגביל את הכוח המופרז הזה, שצפוי עוד להתפתח והוא כעת רק בראשיתו.
בעולם חוששים מהבינה המלאכותית בכמה היבטים מרכזיים:
- הטיה ואפליה על בסיס ההטייה שקיימת בנתונים שעליהם מבוססת הבינה המלאכותית
- חששות של פרטיות לחשיפת מידע ממאגרי המידע העצומים
- כלי נשק אוטונומיים שיקבלו החלטות הרות גורל אוטומטית
- פיטורים המוניים והשפעה כלכלית, למשל על שוקי ההון בעקבות יכולות חיזוי מתקדמות
- סיכוני אבטחה ואבטחת סייבר, למשל עם מערכות תקיפה בסייבר מבוססי בינה מלאכותית
- חוסר שקיפות והסבר, המערכות האלה יכולות להטעות בתשובות שלהם או לספק מידע חלקי שעלול להוביל לטעויות
- שיקולים אתיים, למשל תיעדוף לא הוגן על בסיס הטייה שנובעת מהמידע המקורי שלו, או הפרה של זכויות אדם. וכן אחריות במקרה של תאונה שנגרמה במקרה של מערכת בינה מלאכותית (למשל במכונית אוטונומית).
כמתכנת עצמאי בעבר וכיום מתכנת בכיר: עד כמה השינוי צפוי להיות בעבודה שלך דרמטי?
"כמתכנת אני יכול לומר שהמערכות הללו בעלות עוצמה מטורפת, ויביאו מיידית לקיצור בזמן פיתוח. לא רואה איך היא מחליפה מתכנתים לגמרי אבל כן כמערכת שמאיצה ומזרזת את העבודה. היא עוזרת להספיק הרבה יותר בפחות זמן. למרות שבעתיד אני סבור שהיא תחליף את המתכנתים שאנו מכירים כיום ותפקידם המרכזי של המתכנתים החדשים יהיה אחר: לא לכתוב קוד אלא לכוון את המערכת, כי המערכות הללו הן לא חושבות לבד. איך להזין את המכונה ואיך לנסח נכון את הבקשות לבינה המלאכותית ואיך לתקן במקרה הצורך את הדרישות למערכת כדי שתתן לך את מה שאתה רוצה. אלו לדעתי יהיו השיעורים העתידיים ללומדי התכנות.
כיהודים שומרי תומ"צ. איפה לדעתך אתה רואה בעתיד התנגשות עם ענייני הלכה? בינה מלאכותית תחליף פוסקי הלכה?
"אחד הדברים הכי המשמעותיים של הבינה המלאכותית שהתחדשו היא של הבנת שפה טבעית. לומדים הרבה מאוד טקסטים ולפי השאלה שלך יודעים איך להגיב מתוך מאגר המידע ש'האכילו' את המערכת, אבל היא לא יודעת מה היא עונה לך.
המערכות הללו ממציאות הרבה מאוד דברים לא נכונים על סמך מידע שהצטבר. אם אנשים ייקחו ספרי הלכה ופוסקים ויזינו את המערכת ומצפים שהם 'יפסקו הלכה' אז התשובה היא לא. היא לוקחת את הטקסט שיש אצלה ומנסה לחזות תשובה נכונה על סמך מה שיש במאגרים שלה. פסיקה הלכתית אמיתית יכולה להישען על שיקול אחד קטן שהופך את כל התמונה ואת זה רק רב יוכל לעשות בדעת תורה אמיתית, משא"כ בינה מלאכותית היא שולפת מתוך מצבור הטקסטים רק מה שקיים במאגר שלה.
אילוסטרציה: שאטרסטוק
לסיכום: כחסיד חב"ד, האם תוכל לתת את ה'נקודה החב"דית', ניצול מיטבי אפשרי של היכולת המדהימה שנחשפת לעולם, לטובת הפצת יהדות וחסידות?
"כחסיד חב"ד, אני סבור שהמערכות הללו הן עוד אבן דרך כהכנה לגאולה, מאוד משמעותית. מערכות בינה עדיין נחשבות טפשות, הם לא כלליות עדיין. יש מערכות שמבינות שפה, יש שמבינות תמונות, יש שמבינות טקסט, העולם חותר כעת לבינה מלאכותית כללית בדומה לבן אדם שיכול להבין בכל תחום: לדבר, לכתוב, חישובים מתמטיים מדוייקים, לחקות את המוח של האדם, למעשה מעין רובוט אנושי מתוחכם, שיוכל לתפקד כמו בן אדם.
"זה מתחבר לכל השינויים הטכנולגיים של אחרית הימים, כפי שכתוב שאז לא נצטרך לעבוד ולעמול ורק ללמוד תורה ו'מישהו' ידאג לכל השאר. מעבר לכך שיהיו 'שרים אומנייך', זה עוד כלי אדיר כדי שיהודי ללמוד תורה ללא דאגות ועיסוקים.
אני לא מאלה שמנבאים שחורות וחושבים שמערכות בינה מלאכותית הולכות לכבוש את העולם, אלא חושב באמת שזו הכנה לביאת משיח ובע"ה ישמשו ככלי נוסף ומשמעותי בעניין הזה. העולם צריך לדעת לתעל את היכולת המדהימה לדברים טובים ולא מזיקים".
המרואיין ר' אריאל דיל, ארכיטקט בחברת 'מינט', מתכנת מעל 20 שנה עם ניסיון רחב במגוון טכנולוגיות
לדוגמה, מעיל מחמם. נתון כי הטמפרטורה בחוץ הנה 7 מעלות. שאלה: מה כדאי ללבוש היום? תשובה אפשרית.. כדאי ללבוש מעיל.
מערכת בינה מלאכותית מסוגלת להמליץ על כך ללא מידע נוסף.
באשר לניתוח הלכתי, המערכת מסוגלת לקרוא טקסטים ארוכים ולנתח את תוכנם כהרף עין, מבלי להשמיט דבר... לכן... יהיה מעניין
0
2
כפי שהוא מתאר בתשובה שלו- ברגע שעל פי רוב ישנם בעלי צבע עור מסוים שהם יותר שותפים לפשע או יותר נתפסים כפושעים. הוא יקטלג אותם מהר יותר כפושעים.
2
0
0
0
מאפשרים לכם לקבל
