המהפיכה השקטה - EU AI Act

לאורך ההיסטוריה, האנושות עשתה קפיצות אדירות בעיקר בשל הטמעה של טכנולוגיות. החל מגילוי האש, המצאת הגלגל, החשמל - כולם השפיעו עלינו באופן קריטי. כל קפיצה טכנולוגית מתחילה בקנה מידה קטן, בניסוי מינימלי, ובסופו של דבר פרצה בכל העולם. כל טכנולוגיה שהומצאה, העניקה לאנושות ערך עצום, השתכללה, הפכה ליעילה יותר, זולה יותר ונפוצה יותר.

בימים אלה אנו עומדים בפני גל חדש של טכנולוגיה, שבמרכזה AI ומיחשוב קוונטי. יחד עם היתרונות האדירים שה- AI יכול להסב לנו, נמצא גם חשש ממשי שהשינוי הזה עלול לכלול בתוכו היבטים שליליים. הגוף הרגולטורי הראשון בעולם שמתכוון לחוקק גבולות ל-AI הוא האיחוד האירופי. הכירו את חוק ה- AI Act, חוק הבינה המלאכותית.

חוק הבינה המלאכותית נועד לספק למפתחי AI ומשתמשים דרישות וחובות ברורים לגבי גבולות השימוש ב-AI. הכללים שיקבעו בחוק זה נועדו להבטיח שמערכות AI לא פוגעות בזכויות יסוד, בבטיחות ובאתיקה - ולכן יקבעו אמצעי פיקוח, שקיפות ואחריות.

האיחוד האירופי עושה זאת בראש ובראשונה על מנת לשמור על זכויותיהם של אזרחיו, כדי להבטיח שכל מוצר או שירות המשלב בינה מלאכותית יהיו בטוחים ולא יפגעו בזכויות היסוד של אנשים. אם חשבתם שמדובר רק בתיאוריה, אז כדאי שתדעו שהצעת החוק כבר אושרה על ידי המועצה הרלוונטית ב-EU, וכל שנותר הוא לאשר זאת בהצבעה הרשמית של הפרלמנט האירופי. ההצבעה צפויה להתקיים באפריל השנה, ולאחריו צפוי פרסום החוק המוגמר.

חוק ה-AI מבוסס ניהול סיכונים, ומכאן שהבינה המלאכותית מסווגת בהתאם. כך לדוגמא, אפליקציות המשלבות AI לעריכת תמונות הכוללות בינה מלאכותית, כמו זו שהציגה לאחרונה סמסונג בסדרת הסמארטפונים החדשה Galaxy S24, יסווגו באיחוד האירופי כבעלות סיכון נמוך יותר מאפליקציה שסוקרת קורות חיים של מועמדים למשרה, או ללימודים באוניברסיטה.

גם טלוויזיות המשלבות AI לצורך זיהוי תנאי סביבה לכיול תמונה וסאונד, זיהוי משתמש במצלמה, התאמת העדפותיו, הצגת תכנים רצוים והתאמת פרסומות מועדפות, יהיו בסיווג נמוך.

מהצד השני, הצעת החוק מציינת גם את מערכות ה- AI שבשום פנים ואופן לא ניתן יהיה להתיר באיחוד האירופי. ביניהן נמצא את אלו שמשתמשות בטכניקות מניפולטיביות המסוגלות לפגוע בילדים או נכים וכן תוכנות ל-Social Scoring המדרגות אותנו בהתאם לפרופיל התנהגות ויוצרות Black Listing. גם מצלמות המשלבות טכנולוגיית AI עם זיהוי ביומטרי של הפנים בזמן אמת במרחבים ציבוריים יהיו אסורות באיחוד האירופי, אלא אם יהיו הם בשימוש מדינה או גופי ביטחון.

גישה מבוססת הערכת סיכונים

מערכות AI בסיכון גבוה כוללות לדוגמא:

• מערכות העושות שימוש בתשתיות קריטיות, כמו כאלו המנהלות תחבורה או חשמל, העלולות לסכן את חייהם ובריאותם של אזרחים. זוכרים את המערכת לניהול חשמל בישראל של חברת נוגה, שהמליצה לנתק מחשמל ערים שלמות במשך שעות, בגלל ניהול לקוי של משאבי חשמל?

• רכיבי בטיחות של מוצרים כדוגמת מערכות לניהול נהיגה בכלי רכב

מערכות AI בסיכון גבוה יכללו אכיפת מחויבויות של היצרנים, ניהול סיכונים, סטנדרטים ובדיקות לתקינות. האיחוד האירופי יחייב את היצרניות לרשום את מאגרי המידע בהם אוספות היצרניות במערכות AI בסיכון גבוה. לצד המחויבויות הברורות, יקבעו גם עונשים למפירי החוק.

חושבים שהאכיפה עוד רחוקה? תחשבו שוב, מכיוון שלמרות שהחוק עוד לא בתוקף, ממש לאחרונה נפתחו שערי ה- European AI Office.

כיצד זה עשוי להשפיע עלינו? אם עד כה יצרנים הוסיפו בתיאור מוצריהם את המילים AI בלא פיקוח, בקרוב הם ידרשו להציג את המשמעויות של הטמעה זו, ולעמוד בפני רגולציה. שירותים ומוצרים שהתהדרו במילים AI ויימצאו בסיכון גבוה, יצטרכו להוכיח תאימות לדרישות.

אחד משירותי ה- AI הפופולריים שעלול להיות מושפע הם מצלמות האבטחה שרק לאחרונה החלו להטמיע תכונות AI עם זיהוי ביומטרי בזמן אמת. טכנולוגיות לזיהוי פנים מסוגלות לאתר את הפנים של כל האנשים שנקלטו בעדשה, להשוות אותם לאלו שמצויות בבסיס נתונים, וכך לאתר את זהותו של האדם. מדובר בטכנולוגיות כה מתקדמות, כך שהן מסוגלות למנוע כפילויות, להחסיר אנשים שהוחלט להסיר מהאיתור ולהציג סטטיסטיקות תעבורה. אם חשבתם שמדובר בתכונות שנמצאות רק בציוד של רשויות ביטחון ואכיפה, כדאי שתדעו שמדובר בציוד שנמכר כיום גם ללקוחות פרטיים. 

שואלים את עצמכם איפה אנחנו נמצאים בכל הסיפור? במצב הבטחוני בישראל, שירות הביטחון הכללי מתחקה (על פי חוק) אחרי אזרחי המדינה ואוגר את נתוני התקשורת שלהם למאגר עצום הקרוי, "הכלי". גם משטרת ישראל עוקבת אחר תנועת כל אזרחי המדינה בכבישים הבין-עירוניים באמצעות מערכת מצלמות חכמות, "עין הנץ", המזהה מספר רישוי ונוסעים במכוניות. רק לאחרונה פורסם שהשב"כ עושה שימוש בכמות המידע העצומה שנאספת על אזרחי ישראל, בבינה מלאכותית שמסוגלת לצלול לתוך ים הנתונים שנאסף עלינו כדי להוציא מתוכו תובנות שאדם לא מסוגל למצוא, וכל זאת בשביל להסיק מסקנות מצילות חיים.