מאת לאנס אליוט, מבקר מגמות AI
אילוצים.
הם בכל מקום.
נראה כמו כיוון שאתה רוצה להזיז או להתקדם, יש אילוץ כלשהו החוסם את דרכך או לפחות מונע את ההתקדמות שלך.
ספרו המפורסם של ז'אן ז'אק רוסו מ -1762 בשם "החוזה החברתי", הוא הצהיר כי האנושות נולדת חופשית ובכל זאת בכל מקום האנושות נמצאת בשרשראות.
למרות שזה אולי נראה קודר שיש אילוצים, הייתי מעז לומר שכנראה כולנו מברכים על היבט שלפיו באופן שרירותי ההחלטה לרצוח מישהו היא אילוץ חברתי המעכב התנהגות כזו. סרטים כמו "הטיהור" אולי נותנים לנו תובנות לגבי מה שעלול לקרות אם נסיר את האילוצים הפליליים או ההשלכות של רצח, שאם עוד לא ראית את הסרט, בואו נגיד רק את ההיבט של מתן תקופה של 12 שעות לבצע. כל פשע שתרצה בכך שתעשה זאת ללא כל השלכות משפטיות, ובכן, זה גורם לתוצאה די מבוטלת.
אנרכיה, יש שיגידו.
יש אפוא כמה אילוצים שאנחנו אוהבים וחלק שאנחנו לא אוהבים.
במקרה של החוקים שלנו, אנו כחברה התכנסנו ויצרנו מערכת של אילוצים השולטים בהתנהגויותינו החברתיות.
אפשר לטעון כי אילוצים מסוימים הם מעבר ליכולת שלנו להתגבר, המוטלים עלינו מטבעו או כוח אחר.
איקרוס, על פי המיתולוגיה היוונית, ניסה לעוף, עושה זאת באמצעות כנפיים מתוצרת שעווה, וטס קרוב מדי לשמש, נופל לים וטבע. יש שפירשו זאת כשאנושות לא נועדה לעוף. מבחינה ביולוגית, בוודאי שגופנו לא נועד לעוף, לפחות לא בכוחות עצמנו, ולכן זהו אכן אילוץ, ובכל זאת התגברנו על האילוץ על ידי שימוש בהמצאה של האחים רייט כדי לטוס באמצעים מלאכותיים (אני כותב את זה כרגע בגובה 30,000 רגל, שטס ברחבי ארצות הברית, במטוס מסחרי מודרני, למרות שלא נאלצתי לטוס כשלעצמו).
במדעי המחשב ו- AI אנו מתמודדים עם אילוצים בשלל דרכים.
כשאתה מחשב מחשבים מתמטיים, ישנם אילוצים שאתה עשוי להחיל על הנוסחאות בהן אתה משתמש. מיטוב הוא אילוץ פופולרי. אולי תרצו להבין משהו ולרצות לעשות זאת בצורה מיטבית. אתה מחליט להטיל אילוץ שמשמעותו שאם אתה מצליח להבין משהו, הגרסה האופטימלית ביותר היא הטובה ביותר. אדם אחד עשוי לפתח תוכנית מחשב שלוקח שעות לחשב pi לאלפי ספרות בגודל, בעוד שמישהו אחר כותב תוכנית שיכולה לעשות זאת תוך דקות, וכך עדיפה אולי האופטימלית יותר.
כשהילדים שלי היו צעירים הייתי מסתכל בתיבת העפרון שלהם ושלפתי ארבעה מהעפרונות צבעוניים, נניח שבחרתי בצבע צהוב, אדום, כחול וירוק ובחרתי בארבעה צבעים שונים. אז הייתי נותן להם מפה מודפסת של העולם ומבקש מהם להשתמש בארבעת הצבעים כדי לצבוע את המדינות ואת המדינות שלהן או תת-ישויות שלהן כפי שמוצג במפה. הם יוכלו להשתמש באחד מארבעת הצבעים ולעשות זאת בכל דרך שרצו.
הם עשויים לבחור לצבוע את כל מדינות צפון אמריקה ואת תת-הישויות שלהם בירוק, ואולי את כל אירופה בכחול. זו תהיה דרך קלה לצבוע את המפה. לא ייקח להם זמן רב לעשות זאת. יתכן שהם אפילו לא יבחרו להשתמש בכל ארבעת הצבעים. לדוגמה, את כל המפה ואת כל ארצותיה ותתי הישויות שלה אתה יכול פשוט לשרבט עם העפרון האדום. האילוץ המסוים היחיד היה שהצבעים היחידים שתוכלו להשתמש בהם היו צריכים להיות אחד או יותר מארבעת הצבעים שבחרתי.
אילוצים קשים לעומת רכים
בוא נתאר מחדש את בעיית צביעה במפה.
הייתי מוסיף אילוץ נוסף למאמץ של ילדי לצבוע את המפה המודפסת.
הייתי אומר להם שהם היו צריכים להשתמש בארבעת העפרונות הנבחרים ולא יכולים להיות להם גבול ישויות שנוגע בגבול ישויות אחר באותו צבע. לאלו מכם הבקיאים במדעי המחשב או במתמטיקה, אתם עשויים להכיר בזה כבעיית השערה הידועה לשמצה בעלת ארבעה צבעים שפורסמה לראשונה על ידי פרנסיס גוטרי (הוא הזכיר זאת לאחיו, ואחיו הזכיר זאת לפרופסור למתמטיקה במכללה, בסופו של דבר זה תפס את תשומת לבה של האגודה המתמטית בלונדון והפך לבעיה גדולה שיש לפתור).
צביעת מפות מעניינת, אך על אחת כמה וכמה ההיבט שאתה יכול לשנות את נקודת המבט שלך כדי לטעון שיש ליישם את בעיית ארבעת הצבעים על גרפים אלגבריים.
אפשר לומר שצביעת המפה הביאה לזרזת תשומת לב לאלגוריתמים שיכולים לעשות דברים חמימים באמצעות גרפים. עם התפתחות פולינומים כרומטיים, אתה יכול לספור כמה דרכים ניתן לצבוע גרף, באמצעות פרמטר למספר הצבעים המובהקים שיש בידך.
בכל אופן, הילדים שלי שמחו מהוספתי את האילוץ עם ארבעה צבעים, במובן זה שהוא הפך את בעיית צביעה במפה לאתגרתית יותר.
אני מניח שכשאני אומר שהם היו מרוצים, אני צריך להוסיף שהם גם הביעו תסכול, מכיוון שהבעיה עברה מאד קלה עד שהפכה לפתע קשה למדי. יתר על כן, בהתחלה, הם הניחו שהבעיה תהיה קלה, מכיוון שקל היה להשתמש בצבעים בכל דרך שתחפצו, והם חשבו שעם ארבעה עפרונות צבעוניים גם אילוצי ארבעת הצבעים יהיו פשוטים. הם גילו אחרת כשהשתמשו בעותקים רבים של המפה המודפסת, מנסים להגיע לפיתרון שעמד באילוץ.
ישנם מה שמכונה אילוצים "קשים" ואילוצים "רכים". יש אנשים שמבלבלים את המילה "קשה" עם הרעיון שאם הבעיה עצמה מתקשה, האילוץ שגרם לה נחשב לאילוץ "קשה". זה לא מה שמכוונים עם ההגדרה הנכונה של אילוצים "קשים" ו" רכים ".
אילוץ "קשה" נחשב לאילוץ שהוא בלתי גמיש. זה חובה. אינך יכול לנסות לנער אותו. אינך יכול לנסות לכופף אותו כדי להיות רך יותר. אילוץ "רך" הוא זה שנחשב לגמיש וניתן לכופף אותו. זה לא נחשב לחובה.
לילדיי וצביעת המפה שלהם, כשהוספתי את אילוץ הארבעה צבעים, ניסיתי לגרום לזה להראות כמו משחק מהנה ורציתי לראות איך הם עשויים לעשות. לאחר ניסוי וטעייה של שימוש בארבעה צבעים בלבד ונתקע בניסיון לצבוע את המפה כמבוסס על האילוץ שלשני גבולות לא יכול להיות אותו צבע, אחד מהם בחר להושיט לפח העפרון ולשלוף עפרון אחר . כששאלתי מה קורה עם זה, נאמר לי שהקלות יותר לפתור את הבעיה אם הדבר יאפשר חמישה צבעים במקום ארבעה.
זה היה מעניין מכיוון שהם קיבלו את האילוץ כי אין שני גבולות יכולים להיות באותו הצבע, אך בחרו אז אם יוכלו לשחרר את האילוץ לגבי כמה צבעי עפרון. הערכתי את הגישה החשיבה מחוץ לקופסה אבל אמרתי שהאופציה בארבעה צבעים היא האופציה היחידה וכי במקרה זה אין להשתמש בחמישה צבעים. זה נחשב לאילוץ "קשה" בכך שהוא לא היה גמיש ולא ניתן לשנות אותו. אף על פי כן, קראתי לנסות להשתמש בחמישה צבעים כחקירה ראשונית, וביקשתי לנסות להבין כיצד ניתן להפחית את הדברים בסופו של דבר לארבעה צבעים בלבד.
מנקודת מבט קוגניטיבית, שימו לב שהם קיבלו את אחד האילוצים ה"קשים ", כלומר כשני גבולות שולטים, אך ניסו למתוח את אחד האילוצים האחרים, את מספר הצבעים המותרים. מכיוון שלא הדגשתי שצריך לצבוע את המפה בארבעה צבעים בלבד, היה שימושי שבדקו את המים כדי לוודא שמספר הצבעים המותרים אכן אילוץ איתן או קשה. במילים אחרות, מסרתי להם רק ארבעה צבעים, ויכולים להניח כי הם יכולים להשתמש רק בארבעה צבעים, אבל בהחלט כדאי היה לשאול על כך, שכן לנסות לפתור את בעיית המפה עם ארבעה צבעים בלבד זה הרבה יותר קשה מאשר עם חמישה צבעים.
זה מביא אותנו לנושא של אילוצים שהוטלו על עצמם, ובמיוחד לאלו שאולי אינם מוגדרים.
אילוצים שהוטלו על עצמם ולא מיושנים
כשהייתי פרופסור ולימדתי שיעורי מדעי המחשב ומדעי המחשב, הייתי פעם שהסטודנטים שלי ינסו לפתור את הבעיה הקלאסית של העברת פריטים מעבר לנהר או לאגם. בטח שמעת או ראית את הבעיה בגרסאות שונות. זה הולך למשהו כזה. אתה נמצא בצד אחד של הנהר ויש לך שועל, תרנגולת וקצת תירס. הם נמצאים כעת תחת פיקוחך ונשארים נפרדים זה מזה. השועל היה רוצה לאכול את העוף, והעוף רוצה לאכול את התירס.
יש לך סירה שתוכל להשתמש בה כדי להגיע לצד השני של הנהר. אתה יכול לקחת איתך שני פריטים רק בכל טיול. כשאתה מגיע לצד השני אתה יכול להשאיר את הפריטים שם. ניתן לקחת את כל הפריטים בצד השני בחזרה לצד שממנו הגעת. אתה רוצה לסיים את כל שלושת הפריטים שלמים בצד השני.
הנה הדילמה. אם תשתלט על העוף והתירס, ברגע שתחזרו לקבל את השועל, העוף יאכל בשמחה את התירס. נכשל! אם תשתלט על השועל והעוף, ברגע שתחזור אחורה כדי להשיג את התירס, השועל יאכל את העוף בשמחה. נכשל! וכולי.
איך אתה פותר את הבעיה הזו?
אני לא אהיה ספוילר ואגיד לך איך זה נפתר, ואציע רק את הרמז שזה כרוך בנסיעות מרובות. הסיבה שאני מעלה את הבעיה היא שכמעט בכל פעם שהצגתי בפני התלמידים את הבעיה הזו, הם התקשו לפתור אותה מכיוון שהם הניחו שהמספר הנמוך ביותר של הנסיעות היה דרישה או אילוץ.
מעולם לא אמרתי שמספר הנסיעות היה אילוץ. מעולם לא אמרתי שהסירה לא יכולה לנסוע הלוך ושוב כמה פעמים שרצית. זה לא היה אילוץ ששמתי על הפיתרון לבעיה. אני אומר לך את זה מכיוון שאם אתה מנסה לפתור את הבעיה בו זמנית וגם להוסיף אילוץ שהוטל על ידי עצמו שמספר הנסיעות חייב להיות מספר מינימלי, אתה מכניס את עצמך לאותה מידה שמנסה לפתור את הבעיה.
אין זה מפתיע שתלמידי מדעי המחשב היו מניחים הנחה כזו, מכיוון שהם מתמודדים ללא הרף עם הצורך למצוא את הדרך האופטימלית ביותר לפתור את הדברים. בשיעורי תיאוריות האלגוריתמים המתחילים שלהם ושיעורי תכנות הם בדרך כלל מתבקשים לכתוב תוכנית מיון. התוכנית אמורה למיין קבוצה כלשהי של אלמנטים נתונים, אולי יש למיין אוסף של מילים לפי סדר אלפביתי. הם ככל הנראה מדורגים על מידת היעילות של תוכנית המיון שלהם. הגרסה המהירה ביותר שלוקחת את המספר הנמוך ביותר של צעדי מיון מקבלת לעתים קרובות את הציון הגבוה יותר. זה מכניס אותם למצב הרוח שרצוי אופטימיות.
אל תבינו לא נכון שאיכשהו אני ממנעה אופטימיות. אוהב את זה. אני רק אומר שזה יכול להוביל לסוג של עיוורון קוגניטיבי לפיתרון בעיות. אם כל בעיה חדשה שתנסה לפתור, אתה ניגש אליה עם הלך הרוח שעליך לצילומי ראשונה גם תמיד מגיע לאופטימיות, אתה הולך לקבל דרך קשה בחיים, הייתי מרבה. יש זמנים שכדאי לנסות לפתור בעיה בכל דרך אפשרית, ואז לאחר מכן לנסות להיגמל אותה כדי שיהיה אופטימלי. לנסות לעשות שני דברים בבת אחת, לפתור בעיה ולעשות זאת בצורה אופטימלית, יכול להיות נתח אוכל גדול מכדי לבלוע את כולם בביס אחד.
בעיות שמעניינות מדעני מחשבים ומומחי AI מסומנות לרוב כבעיות שביעות רצון של אילוצים (CSP).
אלה בעיות שעבורן יש מספר אילוצים שצריך לעמוד בהם, או להסתפק בהן, כחלק מהפתרון שאתה מחפש.
עבור ילדי זה היה האילוץ שהם היו צריכים להשתמש במפה שסיפקתי, הם לא יכלו לאפשר לאותו צבע לגעת בגבול אחד ובגבול אחר, ועליהם להשתמש רק בארבעת הצבעים. שימו לב שהיו אילוצים מרובים. כולם נחשבו לאילוצים "קשים" בכך שאני לא מרשה להם להגמיש אף אחד מהאילוצים.
זהו CSP קלאסי.
עשיתי מעט להגמיש את מספר הצבעים, אך רק במובן זה שהפצפתי בהם לנסות עם חמישה צבעים להתרגל לנסות לעשות את הבעיה (אחרי שהם קיבלו את הנושא). זה בקנה אחד עם הנקודה שלי לעיל שלפעמים זה טוב לפתור בעיה על ידי שחרור האילוץ. לאחר מכן תוכל להדק את האילוץ לאחר שכבר הגעת לאסטרטגיה או טקטיקה כלשהי שגילית כשגילמת את האילוץ.
יש המתייחסים ל- CSP המכיל אילוצים "רכים" כאחד הנחשב לגמיש. גרסה קלאסית של CSP קובעת בדרך כלל כי כל האילוצים הנתונים נחשבים קשים או בלתי גמישים. אם אתה נתקל בבעיה שמאפשרת לחלק מהאילוצים להיות גמישים, זה נקרא FCSP (Flexible CSP), כלומר קיימת אפשרות של גמישות מסוימת באחד או יותר מאילוצים. זה לא אומר בהכרח שכל האילוצים הם גמישים או רכים, רק שחלקם הם כאלה.
מכוניות אוטונומיות ואילוצים בלתי מוטלים
מה זה קשור למכוניות אוטונומיות ללא נהיגה של AI?
במכון Cybernetic AI לרכב לנהיגה עצמית אנו מפתחים תוכנת AI למכוניות בנהיגה עצמית. היבט אחד הראוי לתשומת לב נאותה הוא האילוצים הבלתי מוגבלים המוטלים על ידי עצמם, אשר חלק ממפתחי ה- AI מכניסים למערכות ה- AI שלהם עבור מכוניות בנהיגה עצמית.
הרשו לי להרחיב.
ראשית ברצוני להבהיר ולהציג את הרעיון שישנן רמות שונות של מכוניות לנהיגה עצמית AI. הרמה העליונה ביותר נחשבת לדרגה 5. מכונית בנהיגה עצמית ברמה 5 היא כזו שמונעת על ידי ה- AI ואין נהג אנושי שמעורב בה. לתכנון מכוניות בנהיגה עצמית ברמה 5, יצרני הרכב אפילו מסירים את דוושת הגז, דוושת הבלם וההגה, מכיוון שמדובר במכשירים המונעים על ידי נהגים אנושיים. המכונית בנהיגה עצמית בדרגה 5 אינה מונעת על ידי אדם, ואף אין ציפייה שנהג אנושי יהיה נוכח במכונית הנהיגה העצמית. הכל על כתפי ה- AI לנהוג במכונית.
עבור מכוניות הנוהגות עצמית פחות מדרגה 5, חייב להיות נהג אנושי שנמצא במכונית. הנהג האנושי נחשב כיום לגורם האחראי למעשי המכונית. ה- AI והנהג האנושי משתפים יחד את משימת הנהיגה. למרות שיתוף משותף זה, האדם אמור להישאר שקוע במשימת הנהיגה ולהיות מוכן בכל עת לבצע את משימת הנהיגה. הזהרתי שוב ושוב מפני הסכנות הכרוכות בהסדר השיתוף המשותף וניבאתי שהוא יביא לתוצאות רבות ומגוונות.
למסגרת הכוללת שלי בנושא מכוניות בנהיגה עצמית של AI, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/framework-ai-self-driving-driverless-cars-big-picture/
לגבי רמות המכוניות בנהיגה עצמית, עיינו במאמר שלי: https://aitrends.com/selfdrivingcars/richter-scale-levels-self-driving-cars/
מדוע מכוניות בנהיגה עצמית בדרגה 5 של AI הן כמו ירח עיניים, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/self-driving-car-mother-ai-projects-moonshot/
לסכנות הכרוכות בשיתוף משותף במשימת הנהיגה, עיינו במאמר שלי: https://aitrends.com/selfdrivingcars/human-back-up-drivers-for-ai-self-driving-cars/
בואו נתמקד כאן במכונית הנהיגה העצמית ברמה 5. חלק גדול מההערות חלות גם על המכוניות הנעות עצמן מרמה 5, אך המכונית הנהיגה העצמית האוטונומית לחלוטין של AI תקבל את מירב תשומת הלב בדיון זה.
להלן הצעדים הרגילים המעורבים במשימת הנהיגה של AI:
- איסוף ופרשנות של חיישני נתונים
- היתוך חיישנים
- עדכון מודל עולם וירטואלי
- תכנון פעולה AI
- מכונית שולטת בהוצאת הפיקוד
היבט מרכזי נוסף של מכוניות בנהיגה עצמית של AI הוא שהם ייסעו על הכבישים שלנו גם בקרב מכוניות מונעות אנושיות. ישנם כמה תעלולים של מכוניות בנהיגה עצמית של AI המתייחסות ללא הרף לעולם אוטופי בו ישנן רק מכוניות המובילות AI בכבישים ציבוריים. נכון לעכשיו יש בערך 250+ מיליון מכוניות קונבנציונאליות בארצות הברית בלבד, והמכוניות הללו לא מתכוונות להיעלם באורח פלא או להפוך למכוניות נהיגה עצמית ברמה 5 AI בין לילה.
אכן השימוש במכוניות מונעות אנושיות יימשך שנים רבות, ככל הנראה עשרות שנים רבות, והופעתן של מכוניות בנהיגה עצמית של AI תתרחש בעוד שעדיין קיימות מכוניות מונעות אנושיות בכבישים. זוהי נקודה מכריעה מכיוון שמשמעות הדבר היא ש- AI של מכוניות בנהיגה עצמית צריך להיות מסוגל להתמודד עם לא רק מכוניות אחרות שמניעות נהיגה עצמית AI, אלא גם להתמודד עם מכוניות מונעות אנושיות. קל לדמיין עולם פשטני ודי מציאותי למדי, שבו כל המכוניות הנוהגות בעצמי AI מתקיימות זו בזו באדיבות ומתנהלות אזרחיות ביחס לאינטראקציות בין הכבישים. זה לא מה שקורה בעתיד הנראה לעין. מכוניות בנהיגה עצמית ומכוניות מונעות אנושיות יצטרכו להתמודד זה עם זה.
למאמר שלי על ההתכנסות הגדולה שהובילה אותנו לרגע זה בזמן, ראו: https://aitrends.com/selfdrivingcars/grand-convergence-explains-rise-self-driving-cars/
עיין במאמר שלי על הדילמות האתיות שעומדות בפני מכוניות בנהיגה עצמית של AI: https://aitrends.com/selfdrivingcars/ethically-ambiguous-self-driving-cars/
לתקנות פוטנציאליות לגבי מכוניות בנהיגה עצמית של AI, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/assessing-federal-regulations-self-driving-cars-house-bill-passed/
לתחזיות שלי לגבי מכוניות בנהיגה עצמית של AI לשנות העשרים, 2020 וה 2030, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/gen-z-and-the-fate-of-ai-self-driving-cars/
נחזור לנושא האילוצים המוטלים על עצמם, בואו ונבחן כיצד זה חל על מכוניות בנהיגה עצמית של AI.
אביא כמה דוגמאות להתנהגות נהיגה המציגות את תופעות האילוצים הבלתי מוגבלות המוטלות על עצמן.
סיפורו של הרחוב המוצף
קחו בחשבון את הסיפור הקודם שלי על הסטודנטים למדעי המחשב שניסו לפתור את בעיית מעבר הנהר ועשו זאת מתוך מחשבה של אופטימיות המחלחלת את דעתם, מה שהקשה הרבה יותר לפתור את הבעיה.
זה היה יום גשום וניסיתי לחזור הביתה לפני שהגשם הציפה לחלוטין את הרחובות סביב מגורי.
למרות שבדרום קליפורניה אין הרבה גשם, אולי תריסר סנטימטרים בשנה, בכל פעם שאנחנו מקבלים גשם, נראה כי המרזבים ושליטת השיטפון שלנו לא בנויים לטפל בזה. בנוסף, הנהגים כאן משתגעים כשיש גשם. ברוב הערים האחרות המוכרות בגשם הנהגים עוסקים בגשם. הנה נהגים מתחרפנים. אפשר היה לחשוב שהם ייסעו לאט יותר ובזהירות. נראה שזה הפוך, כלומר בגשם הם נוהגים בפזיזות רבה יותר ובנטישה.
נסעתי ברחוב שבהחלט היה מוצף במקצת.
המים זרמו סביב צידי המכונית שלי כשהלכתי קדימה. האטתי לא מעט. לרוע המזל מצאתי את עצמי כמעט נוהג לסוג של חול טובע מימי. כשהתקדמתי קדימה, המים התעמקו ועמוקים יותר. הבנתי מאוחר מדי שהמים עומדים כעת כמעט עד דלתות המכונית שלי. תהיתי מה יקרה ברגע שהמים יתמודדו עם המנוע והאם הם עשויים להעביר את המנוע. דאגתי גם שהמים יחלחלו למכונית ויהיה לי סיוט של פנים מוצף להתמודד איתו.
הסתכלתי במראה האחורית שלי ושקלתי לנסות לצאת מהמצב על ידי מעבר לאחור. לצערי מכוניות אחרות עקבו אחרי והם חסמו אותי מאחור. כשעברתי את העקיפה, יכולתי לראות לפניי שמספר מכוניות שהושלמו תקועות במים למעלה. זה היה סימן בטוח לכך שהייתי הולך למים עמוקים יותר וכנראה שגם יתקע.
בינתיים, אחת מאותם טנדרים עם מרווח גבוה חלפה על פני כשהיא עוברת במהירות, מרססת מים על מכוניתי. הוא ירה בזה כדי להגיע למים העמוקים. ככל הנראה היה הסוג שהתגלע על כך שיש לו משאית כזו לפרברים ומדוע הוא קנה מפלצת כזו, והנה היה הרגע היחיד שלו להתענג על הרכישה.
יפי, אני חושב שהוא קרא.
ראיתי לפניי מכונית אחת שעשתה משהו שלעולם לא הייתי שוקל. הוא נסע לחציון הדרך. היה חציון מוגבה שחילק את הנתיבים הצפוניים והדרומיים. זה היה חציון דשא שהוגבה לגובה המדרכה, אולי סנטימטר או שניים יותר. כשעלתי לחציון הנהג שלפני יצא כמעט לחלוטין מהמים, אם כי היו כמה חלקים מהחציון שהוצפו ותחת למים. בכל מקרה, זה היה אמצעי בריחה בר-קיימא.
נותרתי די משיכה על משטח הדרך בכדי לדרבן את המכונית שלי לחציון. לאחר מכן נסעתי בחציון עד שהגעתי לנקודה שתאפשר לי לרדת ממנו ולרדת לאורך רחוב צולב שלא היה מוצף כל כך. כשעשיתי זאת, הסתכלתי לאחור על המכוניות האחרות שהוצמדו ברחוב המוצף שזה עתה השארתי. הם יצאו מהמכוניות שלהם ויכולתי לראות מים זורמים מהפנים. איזה בלאגן!
מדוע אני מספר את הסיפור הזה על צער והישרדות (טוב, אוקיי, לא הישרדות אמיתית בכך שלא עמדתי מול הקוד הקודר, סתם מכונית עשויה להיות תקועה שתוצף ותדרוש המון מאמץ כדי לצאת מהמים ואז להתמודד עם הפנים המוצף)?
כנהג שומר חוק, מעולם לא הייתי שוקל לנסוע על חציון הדרך.
זה פשוט לא יעלה על דעתי. במוחי, זה היה מילולי.
החציון הוא מחוץ לתחום.
אתה יכול להשיג כרטיס נסיעה לחציון.
זה היה משהו שרק מזלזל היה עושה.
זה היה אילוץ שהיה חלק מהלך הרוח המניע שלי.
לעולם אל תנהג על חציון.
במובן זה, זו הייתה אילוץ "קשה". אם היית שואל אותי לפני מצב ההצפה אם הייתי נוהג אי פעם לחציון, אני די בטוח שהייתי אומר לא. שקלתי את זה כמי שאינו מפושט. זה היה כל כך טבוע במוחי, שגם כשראיתי נהג אחר לפניי עושה את זה, במשך שבריר שנייה דחיתי את הגישה, רק בגלל התנאי שלי שהנהיגה בחציון לא הייתה מעולם ולעולם לא הייתה צריכה להתבצע.
אני מסתכל על זה עכשיו ומבין שהייתי צריך לסווג את האילוץ כאילוץ "רך".
רוב הזמן, כנראה שלא אמור לנסוע על החציון. נראה שזו רעיון יחסית הוגן. יתכנו אף תנאים שבהם אתה יכול להגביל את האילוץ ויכול לנסוע על החציון. נראה שהמצב שלי היה באותו הרגע.
AI התמודדות עם אילוצים
בואו ונשחזר כעת את האילוץ הזה לאור מכוניות המניעות עצמית AI.
האם אי פעם לאפשר למכונית הנוהגת בעצמי AI לנסוע לחציון ולנסוע בחציון?
בדקתי ובדקתי כמה מתוכנות AI המשמשות בקוד פתוח למכוניות בנהיגה עצמית והיא מכילה אילוצים האוסרים על מעשה נהיגה כזה להתרחש אי פעם. התוכנה מציינת אותה באופן מפורש.
הייתי אומר שמדובר באילוץ בלתי חוקי המוטל על ידי עצמו.
בטח, אנחנו לא רוצים שמכוניות בנהיגה עצמית של AI יינהלו בצורה מדויקת על מדילים.
זה יהיה מסוכן ועשוי להחריד.
האם המשמעות היא שהאילוץ חייב להיות "קשה" ולא גמיש?
האם פירושו שלעולם לא יתכן נסיבה שבה מערכת AI "בחרה" בצדק לנסוע על החציון?
אני בטוח שבנוסף לבריחה שלי מהצפות, נוכל לבוא עם סיבות אחרות מהימנות שמכונית אולי תרצה או תצטרך לנסוע עליה בחציון.
אני מבין שאולי אתה מודאג מכך שנהיגה על החציון צריכה להיות היבט שיפוטי אנושי ולא להתבצע על ידי סוג של אוטומציה כמו מערכת ה- AI הנוהגת במכונית לנהיגה עצמית AI. זה מעלה אלמנטים קוצניים אחרים. אם נוסע אנושי מצווה על מכונית הנהיגה העצמית של AI לנסוע על חציון, האם זה אומר ש- AI צריך לציית לפקודה כזו? אני בספק אם אנו רוצים שזה יתרחש, מכיוון שיכול להיות לך נוסע אנושי שהוא וואקו שמפקד על המכונית שלהם בנהיגה עצמית של AI לנסוע לחציון, עושה זאת ללא סיבה או מסיבה מוזרה.
למאמר שלי בנושא מכוניות קוד פתוח ומכוניות לנהיגה עצמית ראו: https://aitrends.com/selfdrivingcars/caveats-open-source-self-driving-cars/
למאמר שלי בנושא התעלפות של מכוניות בנהיגה עצמית של AI ראו: https://aitrends.com/selfdrivingcars/pranking-of-ai-self-driving-cars/
לאינטראקציה של עיבוד שפות טבעיות (NLP) של AI ובני אדם, עיינו במאמר שלי: https://aitrends.com/selfdrivingcars/car-voice-commands-nlp-self-driving-cars/
להיבטים בטיחותיים של מכוניות בנהיגה עצמית AI, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/safety-and-ai-self-driving-cars-world-safety-summit-on-autonomous-tech/
אני טוען שיש המון סוגים של אילוצים נסתרים כרגע ברבים מהמכוניות לנהיגה עצמית של AI שעורכים ניסויים בניסויים היום בכבישים הציבוריים שלנו.
השאלה תהיה האם בסופו של דבר אילוצים בלתי-מוטלים או "קשים" המוטלים על עצמם יגבילו את הופעתם של מכוניות אמיתיות לנהיגה AI.
בעיניי, מכונית הנהיגה עצמית של AI שלא יכולה להבין כיצד לצאת מרחוב מוצף על ידי נסיעה למעלה לחציון אינה מכונית נהיגה AI אמיתית.
אני מבין שזה מגדיר רף די גבוה.
אני מציין גם את זה מכיוון שהיו הרבה נהגים אנושיים אחרים ברחוב ההוא שלא חשבו על האפשרות או חשבו על האפשרות לאחר שהיה מאוחר מדי לנסות לתמרן לחציון. אם יש בני אדם שאינם יכולים למצוא פיתרון, האם אנו מבקשים יותר מדי מ- AI לבוא עם פיתרון?
במקרה שלי, אני מודה בחופשיות שלא היה לי הרעיון שלי להמשיך לחציון. ראיתי מישהו אחר עושה את זה ואז שקלתי אם עלי לעשות את אותו הדבר. באופן זה, אתה יכול להציע שלמדתי באותו רגע משהו חדש על נהיגה. אחרי כל שנות הנהיגה הרבות האלה, ואולי חשבתי שלמדתי את הכל, באותו רחוב מוצף הייתי בהלם ערה מההבנה שאני יכול לנסוע על החציון. כמובן שתמיד ידעתי שזה אפשרי, הדבר שעוצר אותי היה הלך הרוח שזה מחוץ לתחום ולעולם לא ייחשב כמקום בר-קיימא לנהוג במכונית שלי.
למידת מכונה והיבטי למידה עמוקה
עבור מכוניות בנהיגה עצמית של AI, יש לצפות כי באמצעות Machine Learning (ML) ו- Deep Learning (DL) הם יוכלו בהדרגה להתפתח יותר ויותר בכישורי הנהיגה שלהם.
אפשר לומר שלמדתי שהנהיגה בחציון היא אפשרות ובת קיימא במצב חירום כמו רחוב מוצף.
האם ה- AI של מכונית בנהיגה עצמית AI יוכל ללמוד את אותו סוג של היבט?
האילוצים ה"קשים "בחלק גדול ממערכות ה- AI למכוניות בנהיגה עצמית מגולמים באופן שלרוב אסור לשנותם.
ה- ML וה- DL מתרחשים עבור היבטים אחרים של המכונית הנוהגת בעצמה, כמו "למידה" על כבישים חדשים או שבילים חדשים שצריך ללכת בהם כשאתה נוהג במכונית הנהיגה העצמית. ביצוע ML או DL על חלקי תכנון הפעולה של AI הוא עדיין טריטוריה יחסית לא נגיעה. זה די ידרוש ממפתח AI אנושי להיכנס למערכת ה- AI ולרכך את האילוץ של נהיגה על חציון, ולא שה- AI עצמו יבצע ניתוח אינטרוספקטיבי כלשהו וישנה את עצמו בהתאם.
יש היבט נוסף ביחס לחלק גדול מהמצב המודרני של ימינו ב- ML ו- DL שהיה מקשה על ביצוע מה שעשיתי במונחים של העלייה לחציון. עבור רוב ML ו- DL, אתה צריך שיהיה לך המון דוגמאות זמינות עבור ML או DL כדי להתאים לתבנית. לאחר בחינת אלפי או אולי מיליוני מקרים של תמונות של שלטי דרכים, ה- ML או DL יכולים להבדיל במקצת בין שלטי עצירה לעומת שלטי תשואה.
כשהייתי ברחוב המוצף, נדרשה רק מקרה אחד בשביל ללמוד להתגבר על אילוצי הקודם לא לנסוע על החציון. ראיתי מכונית אחת עושה את זה. אז הכללתי שאם מכונית אחת יכולה לעשות זאת, אולי מכוניות אחרות יכולות. אז גיליתי שהמכונית שלי יכולה לעשות את אותו הדבר. אז חוקקתי את זה.
כל זה התרחש על סמך דוגמא אחת בלבד.
ובשבריר שנייה של הזמן.
ובתחום המכונית שלי.
זה קרה על סמך דוגמא אחת והתרחש בתוך המכונית שלי, וזה חשוב להדגיש. לצורך לימוד המכונות של מכוניות בנהיגה עצמית של AI, מרבית יצרני הרכב וחברות הטכנולוגיה מגבילות כיום כל ML שיכול להופיע בענן. באמצעות תקשורת אלקטרונית OTA (Over-The-Air), מכונית הנהיגה עצמית של AI שולחת נתונים שהיא אספה מהיותם ברחובות ודוחפת אותם לענן. יצרנית הרכב או חברת הטכנולוגיה מבצעת כמות מסוימת של ML או DL באמצעות הנתונים מבוססי הענן, ואז יוצרת עדכונים או טלאים שנדחפים למטה לרכב הנהג העצמי של AI דרך ה- OTA.
במקרה שהייתי ברחוב המוצף, נניח שהייתי במכונית שנוהגת בעצמי AI. נניח שה- AI באמצעות חיישניו יכול היה לזהות שמכונית שלפניה עלתה לחציון. ונניח גם שהחיישנים זיהו שהרחוב מוצף. האם יכול היה ה- AI המשולב על הסיפון לבצע את אותו קפיצת דרך נפשית, ללמוד ממקרה אחד ולהתאים את עצמו, והכל על סיפונה של ה- AI של המכונית הנוהגת בעצמה? היום, כנראה שלא.
אני בטוח שחלק ממפתחי AI אומרים שאם המכונית בנהיגה העצמית הייתה עם OTA, היא הייתה יכולה לדחוף את הנתונים לענן ואז יתכן והיה נזרק תיקון או עדכון למכונית המניעה את עצמה, ומאפשר ל- AI ואז לעלות לחציון. באמת?
קחו בחשבון שהייתי צריך להיות במקום שאיפשר ל- OTA לתפקד (מכיוון שמדובר בתקשורת אלקטרונית, לא תמיד יהיה לזה איתות ברור). קחו בחשבון שמערכת הענן תצטרך להתמודד עם נתונים אלה וטונות של נתונים אחרים המגיעים ממכוניות רבות אחרות הנוהגות בעצמן. קחו בחשבון כי השבתת הטלאי הייתה חייבת להיעשות באופן מיידי ולהשתמש באופן מיידי, מכיוון שהזמן היה גורם חיוני. וכו 'לא סביר.
למידע נוסף על OTA, עיינו במאמר שלי: https://aitrends.com/ai-insider/air-ota-updating-ai-self-driving-cars/
להיבטים של למידת מכונות עיינו במאמר שלי: https://aitrends.com/selfdrivingcars/federated-machine-learning-for-ai-self-driving-cars/
לחשיבות הפלסטיות בלמידה עמוקה, עיינו במאמר שלי: https://aitrends.com/selfdrivingcars/plasticity-in-deep-learning-dynamic-adaptations-for-ai-self-driving-cars/
למפתחי AI ותפיסת מחשבה אגוצנטרית, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/egocentric-design-and-ai-self-driving-cars/
בנקודה זו יתכן שתתפתה לומר שרק נתתי דוגמא אחת לאילוץ "קשה" במשימת נהיגה והיא אולי די מעורפלת.
אז מה אם מכונית שנוהגת בעצמי AI לא הייתה יכולה להבחין בערך הנסיעה לחציון.
זה עשוי להתרחש פעם בירח כחול, ואתה יכול לומר שיהיה בטוח יותר שהאילוץ "הקשה" יהיה מאשר לא להיות במקום (אני לא אומר כי אילוץ כזה לא צריך להיות במקום, ובמקום זאת בטענה שזה צריך להיות אילוץ "רך" שניתן לכופף בצורה הנכונה ובזמן הנכון מהסיבות הנכונות).
דוגמאות מספרות נוספות
להלן סיפור נהיגה נוסף עבורך שעשוי לעזור.
נסעתי על כביש מהיר שהיה באזור שמועבר למדורות בר. כאן בדרום קליפורניה (SoCal) יש לנו מדי פעם שריפות בר, במיוחד בחודשי הקיץ כאשר המברשת יבשה ויש הרבה טנדרים שמוכנים לעלות באש. החדשות בתקשורת ההמונית גורמות לעיתים קרובות להראות כאילו כל סוקל נקלעים למדורות פראיות כאלה. המציאות היא שהוא נוטה להיות מקומי. עם זאת, האוויר יכול להיות די ברוטאלי ברגע שדורות הבר יוצאות לדרך וניתן לראות כמויות עשן גדולות לאורך קילומטרים.
תוך כדי נסיעה בכביש מהיר זה באזור שידוע מדורות בר, יכולתי לראות קדימה שיש עשן הממלא את האוויר. קיוויתי שהכביש המהיר יעבור סביב מדברי הבר ויכולתי פשוט להמשיך לנסוע עד שעברתי את זה. התקרבתי למנהרה ונכנס לתוכו עשן. לא היו יציאות סמוכות כדי לרדת מהכביש המהיר. למנהרה עדיין הייתה מספיק ראות שחשבתי שאוכל לגלוש במנהרה ולצאת מהצד השני בבטחה. נסעתי במנהרה זו בנסיעות רבות אחרות וידעתי שבמהירות שלי 65 ק"מ לשעה לא ייקח הרבה זמן לחצות את המנהרה.
כשנכנסתי למנהרה אני מבין שזו הייתה טעות לעשות זאת.
מלבד העשן, כשהתקרבתי לקצה השני של המנהרה, היו להבות שהושיטו לאורך הכביש המהיר וחסמו את הכביש המהיר לפניו. המנהרה הזו הייתה חד כיוונית. יש להניח שלא יכולתי לחזור לאותה כיוון שפשוט עברתי. אם הייתי מנסה לצאת מהמנהרה זה נראה כאילו אני עלול להכניס את המכונית שלי לאש.
למרבה המזל, כל המכוניות שנכנסו למנהרה נעצרו כמעט או לפחות במהירות נמוכה מאוד. הנהגים כולם הבינו את הסכנה שבניסיון להתחמק מהמנהרה. ראיתי מכונית אחת או שתיים מנסות. מאוחר יותר גיליתי שהם אכן נשרפו בגלל השריפה. היו מכוניות אחרות שבסופו הגיעו לכביש המהיר והנהגים נטשו את מכוניותיהם בגלל הלהבות. כמה מכוניות אלה נשרפו לחלוטין עד כדי פריכה.
בכל מקרה, כולנו עשינו פניות פרסה שם במנהרה ופנינו לכיוון הלא נכון של המנהרה כדי שנוכל לצאת החוצה ולחזור לצד הבטוח יותר של המנהרה.
האם מכונית שנוהגת בעצמי AI תוכל להיות מוכנה לנסוע בדרך הלא נכונה בכביש מהיר?
שוב, מרבית המכוניות הנהיגה העצמית של AI כיום לא היו מאפשרות זאת.
הם מקודדים כדי למנוע דבר כזה לקרות.
כולנו יכולים להסכים שלגביה מערכת AI נוהגת במכונית בנהיגה עצמית בדרך הלא נכונה בדרך כלל אינה רצויה.
האם זה אמור להיות אילוץ "קשה" שלעולם אסור להתרכך? אני חושב שלא.
כסיפור אחר, אני אעשה את זה במהירות, נסעתי על הכביש המהיר וכלב התנפץ על הכביש.
הסיכוי היה גבוה שמכונית תיכנס לכלב.
הכלב נבהל מתחכמו ורץ קדימה ואחורה בחוסר רצון. נראה כי חלק מהנהגים לא היה אכפת להם ורק רצו לעבור על פני הכלב, אולי ממהרים בדרך לעבודה או להשיג את קפה הבוקר שלהם בסטארבוקס.
ואז ראיתי משהו שמחמם את הלב.
אולי קצת מסוכן, אבל בכל זאת מחמם את הלב.
נראה כי כמה מכוניות מתואמות זו עם זו כדי להאט את התנועה (הן האטו והביאו את המכוניות מאחוריהן לעשות את אותו הדבר) והביאו את התנועה לעצירה. לאחר מכן הם תמרנו את מכוניותיהם כדי ליצור סוג של גדר או מלונה המקיפה את הכלב. זה מנע מהכלב לברוח בקלות. חלק מהנהגים יצאו אז ממכוניותיהם ואחד מהם היה ברצועה (ככל הנראה בעל כלבים), רסן את הכלב, הכניס את הכלב למכוניתם ונסע משם, יחד עם שאר התנועה התחדש.
האם מכונית בנהיגה עצמית של AI הייתה מסוגלת לבצע מעשה זהה, ובמיוחד להפסיק את הכביש המהיר ולהפוך את פינת הקיטי לרכב בזמן הכביש המהיר בכדי לעזור בצורת הגדר הווירטואלית?
זה עשוי להפר את האילוצים האחרים שהוטלו על ידי עצמם על ידי ה- AI.
ספק אם ה- AI של ימינו יכול היה לעזור במאמץ ההצלה הזה.
אם אתם עדיין חושבים שמדובר בכל המקרים המובחרים של כדור הארץ, בואו נשקול סוגים אחרים של אילוצי AI פוטנציאליים שקיימים ככל הנראה עבור מכוניות בנהיגה עצמית, כפי שהוצבו על ידי מפתחי ה- AI המעורבים. מה עם ללכת מהר יותר מהמהירות המותרת? היו לי כמה מפתחי AI שאמרו שהם הגדירו את המערכת כך שהמכונית בה נהיגה עצמית לעולם לא תעבור מהר יותר מהגבלת המהירות שפורסמה. הייתי אומר שאנחנו יכולים להמציא הרבה סיבות לכך שבשלב מסוים מכונית שנוהגת בעצמה אולי תרצה או תצטרך ללכת מהר יותר מהגבלת המהירות שפורסמה.
אכן, אמרתי וכתבתי פעמים רבות שהרעיון שמכונית שנוהגת בעצמי AI לעולם לא תעשה נהיגה "לא חוקית" כלשהי היא שטויות.
זו נקודת מבט פשטנית שמגנה על מה שמורכב למעשה הנהיגה.
למאמר שלי אודות צרכי הנהיגה הבלתי חוקית של מכוניות בנהיגה עצמית של AI, ראה: https://aitrends.com/selfdrivingcars/illegal-driving-self-driving-cars/
למאמר שלי בנושא החשיבות של תיקי קצה, ראה: https://aitrends.com/selfdrivingcars/edge-problems-core-true-self-driving-cars-achieving-last-mile/
להיבטים של גבולות AI, עיין במאמר שלי: https://aitrends.com/ai-insider/ai-boundaries-and-self-driving-cars-the-driving-controls-debate/
למבחן טיורינג שיושם במכוניות לנהיגה עצמית של AI, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/turing-test-ai-self-driving-cars/
סיכום
אופי האילוצים הוא שלא יכולנו לחיות בלעדיהם, ולעיתים גם לא נוכל לחיות איתם, או לפחות זה מה שרבים מתיימרים לומר. עבור מערכות AI, חשוב להיות מודעים לסוגי האילוצים שהם מוסתרים או לקודד אותם לתוכם, יחד עם ההבנה אילו מהאילוצים קשים ובלתי גמישים, ואילו מהם רכים וגמישים.
זוהי הצעה מקובעת שיש אילוצים רכים. אני אומר את זה מכיוון שלכל אחת מהדוגמאות הקודמות שלי בהן הוחלף אילוץ, נתתי דוגמאות בהן ההכפלה נחשבה כמתאימה. נניח כי למרות זאת, ה- AI אינו מסוגל להבחין מתי להגמיש אילוץ רך ומתי לא לעשות זאת? ה- AI של היום הוא כל כך שביר ובלתי מסוגל, ככל הנראה שעדיף שיהיה לנו אילוצים קשים ויתמודד עם ההשלכות הללו, במקום שיהיה לנו אילוצים רכים שיכולים להיות מועילים במקרים מסוימים אך אולי הרסניים במקרים אחרים.
כדי להשיג מכונית אמיתית לנהיגה עצמית של AI, אני טוענת כי האילוצים חייבים להיות כמעט "רכים" וכי ה- AI צריך להבחין מתי לכופף אותם כראוי. זה לא אומר שה- AI יכול לעשות זאת באופן שרירותי. זה גם לוקח אותנו לתחום האתיקה של מכוניות בנהיגה עצמית AI. מי יקבע מתי ה- AI יכול ולא יכול להגמיש את האילוצים הרכים האלה?
למאמר שלי בנושא לוחות אתיקה ומכוניות לנהיגה עצמית של AI ראו: https://aitrends.com/selfdrivingcars/ethics-review-boards-and-ai-self-driving-cars/
למאמר שלי בנושא מסגור מחדש של רמות המכוניות לנהיגה עצמית AI, ראה: https://aitrends.com/ai-insider/reframing-ai-levels-for-self-driving-cars-bifurcation-of-autonomy/
לחציית מכוניות ההנעה העצמית של רוביקון ו- AI ראו את המאמר שלי: 1https://aitrends.com/selfdrivingcars/crossing-the-rubicon-and-ai-self-driving-cars/
למאמר שלי אודות התחלה מחדש עם AI, ראה: https://aitrends.com/selfdrivingcars/starting-over-on-ai-and-self-driving-cars/
להתקדמות בהיגיון בשכל הישר, עיין במאמר שלי: https://aitrends.com/selfdrivingcars/common-sense-reasoning-and-ai-self-driving-cars/
ילדיי עברו זה מכבר מבעיית מיפוי העפרון הצבעוני והם מתמודדים בימינו עם המציאות היומיומית של אילוצים סביבם כמבוגרים.
ה- AI של היום הנוהג במכוניות בנהיגה עצמית הוא במקרה הטוב יכולתו של ילד צעיר (אם כי לא בשום דרך "חשיבה" אמיתית), שנמצאת היטב מתחת למקום בו אנו צריכים להיות במונחים של מערכות AI שהם אחראי על מכוניות מרובות טונות שיכולות לגרום להרס ולגרום נזק ופציעות.
בואו לפחות נדאג שאנו מודעים לאילוצים הפנימיים המוטלים על ידי עצמם מוטמעים במערכות AI והאם ה- AI עשוי להיות עיוור לנקוט בפעולה מתאימה בעת נסיעה בכבישים שלנו.
זה סוג של מופרז שאנחנו צריכים להפסיק לפני שיהיה מאוחר מדי.
זכויות יוצרים 2020 ד"ר לאנס אליוט
תוכן זה פורסם במקור ב- AI Trends.
[אד. הערה: למעוניינים של הקורא בניתוחים העסקיים המתמשכים של ד"ר אליוט על הופעתם של מכוניות בנהיגה עצמית, ראו את טור פורבס המקוון שלו: https://forbes.com/sites/lanceeliot/]
