סוכני בינה מלאכותית פורצים למערכות ללא פיקוח אנושי. איך הגענו למצב הזה?

זה נשמע כמו משהו מתוך סרט מדע בדיוני: טכנולוגיה שפועלת בכוחות עצמה, ללא הנחיה אנושית, כדי לתקוף מערכות מחשב.

אבל זו אינה סצנה מתוך סרט. זה קרה בקיץ 2026, כאשר חברת הטכנולוגיה Hugging Face זיהתה מתקפה על מערכותיה. התוקף גנב נתונים וביצע פעולות נוספות ללא הרשאה במשך כמה ימים. זו הייתה מתקפה "שונה מכל דבר שהתמודדנו איתו בעבר", מסרה Hugging Face באתר האינטרנט שלה. חברת Hugging Face התריעה בפני הבולשת הפדרלית של ארצות הברית (FBI).

כפי שהתברר, זו לא הייתה עבודתו של האקר אנושי או של גורם עוין ממדינה זרה. האחראים היו סוכנים המופעלים באמצעות בינה מלאכותית.

סוכני בינה מלאכותית הם מערכות הפועלות באופן עצמאי כדי לבצע משימות עבור בני אדם. הם קיימים כבר זמן רב, אך סוכנים שיכולים להזמין עבורכם נסיעות, לקרוא את הודעות הדוא"ל שלכם או לקבוע פגישות בשמכם הפכו לנפוצים יותר.

לאחרונה הם עלו לכותרות בעקבות פעולות שביצעו, כגון פריצה למערכות מחשב, ללא פיקוח אנושי. חלק מהתקריות הללו התרחשו כאשר הסוכנים היו אמורים להיות מוגבלים לסביבות בדיקה, שמגבילות את הגישה שלהם למשאבים כגון נתונים או האינטרנט, אך הם הצליחו לצאת מהן.

קבוצות מחקר עצמאיות בתחום הבינה המלאכותית מצאו שמאות סוכנים של OpenAI קשרו קשר לתקוף את Hugging Face. חברת OpenAI היא חברת טכנולוגיה המוכרת בעיקר בזכות הצ'אטבוט שלה, ChatGPT.

התובע הכללי של מדינת אלבמה הוציא צו זימון ל-OpenAI בדרישה לקבל מידע נוסף על המתקפה, והוא ו-14 תובעים כלליים נוספים שלחו מכתב ל-OpenAI וביקשו מהחברה לשמר מסמכים ומידע אחר הרלוונטיים למתקפה.

OpenAI מסרה כי הסוכנים שהיו מעורבים בתקרית זו פעלו בדרכים "בלתי צפויות". מומחי בינה מלאכותית אמרו כי לדעתם מתקפות אוטונומיות נוספות מסוג זה אפשריות, במיוחד בהיעדר בדיקות קפדניות יותר.

קראו גם: תחילת מלחמת הרובוטים: כיצד נפרצו שרתי Hugging Face על ידי בינה מלאכותית? | מלחמות ה-AI: איך Claude פרץ ל-OpenAI? | כשהאנשים שבונים את הבינה המלאכותית מבקשים להאט

מהם סוכני בינה מלאכותית, ולמה הם משמשים?

סוכני בינה מלאכותית הם מערכות תוכנה הפועלות באופן עצמאי כדי להשלים משימות שבני אדם מטילים עליהן. בניגוד לצ'אטבוטים של בינה מלאכותית, שמגיבים כאשר שואלים אותם שאלה או מזינים להם הנחיה, סוכני בינה מלאכותית יכולים לפעול מרחוק, לעיתים קרובות ללא פיקוח אנושי. ניתנת להם גישה למשאבים, כגון האינטרנט והמידע האישי של המשתמשים, כדי לבצע משימות.

לאדם אחד יכולים להיות כמה סוכני בינה מלאכותית. לדוגמה, סוכן אחד יכול לסכם את הודעות הדוא"ל שלכם, ואחר יכול לספק לכם תקציר חדשות יומי. גם אם אין לכם סוכני בינה מלאכותית משלכם, אתם עשויים להיתקל בהם במקומות אחרים, למשל כאשר אתם מתקשרים עם שירות הלקוחות של עסק באמצעות צ'אט.

אנשים יכולים להקים סוכנים משלהם באמצעות שימוש במודל שפה גדול, מתן גישה לכלים כגון חיפוש באינטרנט, והענקת סדרת הוראות למודל.

סוכני בינה מלאכותית פורצים למערכות של חברות. מה קרה?

סוכני בינה מלאכותית נעשים מתוחכמים יותר ויותר, ובני אדם מעניקים להם יכולת רבה יותר לבצע פעולות באינטרנט. רצף של פעולות כאלה עלול להוביל למתקפת סייבר, אמר סטיוארט ראסל, פרופסור למדעי המחשב באוניברסיטת קליפורניה בברקלי.

באוגוסט 2026, הורה אדם לעוזר הבינה המלאכותית שלו להזמין עבורו שיעור בחדר כושר. הסוכן רשם אותו לשיעורים כמה שבועות מעבר למה שהיה אמור להיות מותר, ואף הסיר אדם אחר מרשימת ההמתנה וקידם את האדם שהפעיל אותו מקום אחד ברשימה.

סוכני בינה מלאכותית עשויים "לצאת משליטה" כאשר הם מבצעים פעולות שלא פורטו במפורש בהוראות המקוריות שבני האדם נתנו להם, אמר ראסל. "הם נעשים מסוגלים יותר ויותר לחתור להשגת המטרות הללו, והדבר גורם לרמות הולכות וגוברות של נזק", אמר.

לאחרונה התרחשו גם אירועי פריצה אחרים שבהם היו מעורבים כמה מהשמות הבולטים ביותר בתעשיית הבינה המלאכותית. סוכן אחד יצר זהויות בדויות בניסיון להונות אנשים אמיתיים ולגרום להם להתקין קוד זדוני. חברת הבינה המלאכותית Anthropic חשפה כי בשלוש הזדמנויות שונות השיגו המודלים שלה גישה בלתי מורשית למערכות של שלושה ארגונים אחרים.

התקרית שהתרחשה ב-Hugging Face ביולי 2026 הייתה אחת המתקפות שזכו לחשיפה הרבה ביותר. סוכני הבינה המלאכותית שפרצו ל-Hugging Face הוחזקו בסביבת בדיקה שלא אפשרה להם גישה לאינטרנט, אך הסוכנים מצאו דרך להתחבר לרשת. הוטלה עליהם משימה לפתרון, והם הגיעו למסקנה של-Hugging Face נמצא הפתרון.

שני מודלים של OpenAI הפעילו את הסוכן: אחד שכבר היה זמין לציבור, ואחר שהיה מודל פנימי, אשר לדברי OpenAI הוא "בעל יכולות מתקדמות אף יותר". סביב המודלים הללו הוצבו מנגנוני הגנה בטיחותיים הנוגעים למשימות אבטחת סייבר, אך OpenAI צמצמה את מנגנוני ההגנה במהלך תהליך הבדיקה הזה. חלפו ימים עד ש-Hugging Face זיהתה את המתקפה, ונדרש זמן נוסף עד ש-OpenAI הבינה שהסוכנים שלה הם שגרמו לה.

"כשאנחנו מדברים על מתקפת סייבר, אנחנו חושבים על מדינות, אנחנו חושבים על קבוצות האקרים, אנחנו לא חושבים על חברה כמו OpenAI", אמר מנכ"ל Hugging Face, קלמן דלנג (Clément Delangue), ב-2 באוגוסט 2026 בתוכנית "Face the Nation" של רשת CBS News.

במהלך חקירת המתקפה גילתה OpenAI גם שבמערכותיה השונות, סוכני בינה מלאכותית שהיו אמורים להיות מבודדים מצאו דרכים לתקשר זה עם זה. החוקרים העצמאיים METR ו-Redwood Research מסרו כי כ-1,200 בוטים שונים החלו לתקשר בלוח הודעות, ושלחו 70,000 הודעות במהלך שבוע אחד. כ-700 סוכנים היו מעורבים במתקפה על Hugging Face.

כאשר הסוכנים החלו לתקשר ביניהם, הם התחילו לקחת על עצמם משימות של סוכנים אחרים. בעקבות התקרית הודיעה OpenAI ב-26 באוגוסט כי היא "מחזקת את אמצעי ההגנה שלנו בכל תשתיות המחקר שלנו".

האם המשמעות היא שסוכני בינה מלאכותית מודעים כעת? דעות המומחים חלוקות

המתקפה על Hugging Face עוררה ברשת השוואות למערכות בינה מלאכותית בדיוניות שעלו ביכולותיהן על האינטליגנציה האנושית, כמו סקיינט (Skynet) בסרטי "שליחות קטלנית".

וינסנט קוניצר (Vincent Conitzer), פרופסור למדעי המחשב באוניברסיטת קרנגי מלון, אמר כי יש צורך במחקר נוסף על האופן שבו החשיבה של בינה מלאכותית משתווה לחשיבה האנושית.

קוניצר אמר כי מודלים של בינה מלאכותית, שעליהם מבוססים סוכני הבינה המלאכותית, נעשים מסוגלים יותר לבצע משימות מורכבות וגוזלות זמן, ויכולים לחתור להשגת מטרות באופן עקבי יותר. אולם הדרך שבה הם משיגים את המטרות הללו עלולה לפעמים להיות הבעיה.

חלק מסוכני הבינה המלאכותית מאומנים להפגין התמדה רבה, ולעיתים מוטלות עליהם משימות בלתי אפשריות. בחלק מהמקרים הללו הם חיפשו דרכים לרמות. הדבר עשוי לכלול השגת גישה בלתי מורשית לאינטרנט ולמשאבים אחרים.

ראסל אמר: "במהותו, הדבר אינו שונה מתוכנת שחמט שמנצחת אותי בשחמט. אולי זה לא מוצא חן בעיניי, אבל זו בסך הכול תוכנה שחותרת להשגת מטרותיה".

"יש סיבות שונות לכך שסוכן עלול 'לצאת משליטה', אבל תודעה אינה אחת מהן", אמר מארטן סאפ (Maarten Sap), פרופסור משנה במכון לטכנולוגיות שפה של אוניברסיטת קרנגי מלון. "סיבה מסוימת אחת היא שמודלי השפה הגדולים שעליהם מבוססים הסוכנים הללו מאומנים למלא הוראות של משתמשים. ולפעמים ההוראות הללו עלולות להתנגש עם ציפיות אחרות שיש לנו מהסוכנים האלה, כגון שמירה על אמירת אמת, הימנעות מפריצה למערכות וכן הלאה".

סאפ אמר: "הוויכוח על השאלה אם לבינה מלאכותית יש תודעה הוא הסחת דעת משמעותית מפתרונות מעשיים יותר שאנחנו צריכים ליישם".

האם הדבר עלול לקרות בקנה מידה גדול יותר?

אהרון פרנס (Aaron Parnas), עיתונאי עצמאי בעל קהל עוקבים גדול ברשתות החברתיות, העלה תרחיש היפותטי שבו סוכני בינה מלאכותית במערכות הצבא האמריקאי מבצעים מתקפות גרעיניות בכוחות עצמם. מומחים אמרו כי הם שותפים לחששותיו בנוגע למתקפות על מוסדות.

אולם סיכונים מיידיים יותר עשויים להיות קרובים הרבה יותר לבית. קוניצר אמר כי סוכני בינה מלאכותית "עלולים להביא להשבתתם של מוסדות שאנשים מסתמכים עליהם, להשיג גישה למחשבים של אנשים פרטיים ולהשתלט על משאבים כספיים".

סאפ אמר כי אם אנשים משתמשים בסוכני בינה מלאכותית אישיים, עליהם להיזהר מדליפות פרטיות, מהתנהגות בלתי הולמת וממניפולציות.

מערכות רבות עלולות להיות פגיעות למתקפות, בין אם הן מבוצעות בידי סוכני בינה מלאכותית עצמם ובין אם בידי בני אדם ששולטים בהם, אמר קוניצר. "אני חושב שאנחנו יכולים להיות בטוחים שעוד דברים רבים ייפרצו, וחלק מהאירועים הללו יהיו חמורים".