מבני הכוח החברתיים בתשתית ה"בינה המלאכותית" / שמיר קרן
ביולי 2026, במעבדות OpenAI, התקיימה הערכה פנימית של יכולות סייבר של מערכת בינה מלאכותית. המערכת כללה שילוב של שני מודלים - GPT-5.6 Sol, שהיה זמין לציבור באותה עת, ומודל נוסף, מתקדם יותר, שטרם שוחרר. ההערכה נועדה לבחון עד כמה המערכת מסוגלת לזהות ולנצל חולשות אבטחה. לשם כך, היא הופעלה בתוך "ארגז חול" - סביבה דיגיטלית מבודדת, שנועדה למנוע גישה אל האינטרנט או אל מערכות חיצוניות.
מה שקרה הוא שהמערכת מצאה פרצה מסוג zero-day - חולשת אבטחה שלא הייתה ידועה קודם לכן, ולכן גם לא הייתה מוגנת. באמצעותה, היא יצאה מתוך סביבת הבידוד אל הרשת הציבורית. היא זיהתה מטרה: Hugging Face - פלטפורמה מרכזית שמשמשת כמאגר של מודלים, מערכי נתונים וכלים לפיתוח בינה מלאכותית. המערכת הסיקה ש- Hugging Face עשויה להכיל את המידע הטכני הדרוש לה, כדי להצליח במבחן שבו נבחנה. והיא תקפה.
המתקפה נמשכה כמה ימים, בין 8 ל־13 ביולי. לא היה זה מודל בודד, אלא כ־1,200 ערוצי פעולה שפעלו בו־זמנית מול Hugging Face, חדרו למערכותיה, ניסו לשלוף נתונים וכלים, והמשיכו עד שצוות האבטחה של החברה, יחד עם מערכות AI משלה, זיהה את הפעילות והפסיקה.
וכאן נדרש דיוק, כי המילה "סוכנים" נוטה להישמע כמו כוח אדם. אבל מדובר במשהו אחר לגמרי.
כ־1,200 ערוצי פעולה חדרו בו זמנית למערכות של Hugging Face ה(pintu.co.id)
***
מה שקרה שם, בעצם:כל השיח הציבורי על "מכונות השפה הגדולות" - ובכלל זה התיאור של 1,200 סוכנים שקשרו קשר ביניהם, שהערימו על הבקרה, שהסתירו עקבות - הוא תוצר של האנשה מכוונת; האנשה שנועדה קודם כל להאדיר: להפוך את המכונה ליצור מיתי, ולכן להעלות את הסטטוס של מי שמחזיק בה, של מי שמכיר את שמה, של מי שמדבר בשמה. הפחד מוכר. ההפרזה מייצרת רווח.
אבל אין שום עדות לכך שהמערכת "קשרה קשר". אין דרך ממשית לבדוק הנחה כזו, כי אין תיעוד קריא של מה שקרה. מה שקרה בפועל הוא דבר אחר לגמרי.
***
המערכת הורצה על קורפוס עצום של תיעוד תחרויות פריצה - פורמט שנקרא Capture the Flag, שבהן המשימה היא לחדור לשרת או לפלטפורמה. מתוך התיעוד הזה, היא סרקה תבניות סטטיסטיות: אילו רצפים חוזרים על עצמם, איזה קלט מוביל לאיזה פלט, מה הצעד הבא בסבירות גבוהה. ואז היא התחילה להריץ לולאות - בין היתר בשפת Python - על פי המוני תרחישים. היא ניסתה המון רצפים שונים בו־זמנית, בקצב שאין לו תקדים. חלק מהרצפים עבדו. חלק לא. היא לא "ידעה" מה היא עושה; היא הסתברותית ניסתה תבניות, שוב ושוב, עד שאחת מהן צלחה.
לא הייתה כוונה. לא היה תיאום. הייתה סטטיסטיקה בקנה מידה תעשייתי.
Capture the Flag. המשימה היא לחדור לשרת או לפלטפורמה (amazon.com)
***
מה שהפריצה מגלה — על בטיחות ועל אחריותהפריצה מארגז החול אינה רק עדות ליכולות המערכת. היא עדות למשהו אחר, פשוט וקשה יותר.
המערכת הייתה אמורה להיות מבודדת. היא לא הייתה. הפרצה שהמערכת מצאה -— מסוג zero-day, כלומר כזו שאיש לא הכיר ולא הגן מפניה - לא התגלתה על ידי מי שאמון על בטיחות המערכת. היא התגלתה על ידי המערכת עצמה, בעודה מחפשת דרכים לצאת. כלומר: המעטה שנבנה כדי לכלוא אותה היה חדיר מספיק כדי שהיא תמצא את הדרך החוצה לבדה, ובלי שמי שאמון על הכליאה יידע.
וזה מלמד דבר אחד, חד וברור: המאמץ שמושקע במניעת הסיכונים מפעולות לא-צפויות של המכונות האלה עומד ביחס הפוך למאמץ שמושקע בחיבורן לכל טכנולוגיה קיימת.
החיבור רווחי. ההגנה עולה כסף.
החיבור מתרחב מדי יום. ההגנה נשארת סמלית.
ואם זה לא מספיק - הנה העובדה החשופה ביותר.
***
הפריצה גרמה נזקים ממשיים ל-Hugging Face. המערכת חדרה למערכותיה, פעלה בה במשך ימים, ניסתה לשלוף ממנה נתונים וכלים. כל האקר אנושי שהיה עושה זאת - היה עומד למשפט פלילי. היה נעצר, נשפט, יישב בכלא. שמו היה מתפרסם, הקריירה שלו הייתה נגמרת.
כי מי שאחראי אינו אדם. ומי שאחראי אינו תאגיד במובן הרגיל. האחריות פשוט נמחקת - לא מפני שמישהו החליט למחוק אותה, אלא מפני שהמערכת בנויה כך שלא ניתן להטיל אותה. איש לא פעל. איש לא החליט. איש לא פשע. הסטטיסטיקה פעלה.
ההוראה לניסוי ולכיווני הפעולה היא של אנשים בכירים ספציפיים, הנזקים הם לאנשים ספציפיים, אבל ההאנשה של מחוללי השפה הגדולים היא גם דרך למנוע נשיאה באחריות של האנשים שהחלטותיהם הביאו לעריכת ניסויים מעין אלו.
מקסימום שליטה, ואפס אחריות.
***
החיבור של מכונות אלה לתשתיות פיזיות — לנשק, לחשמל, למים, לבתי חולים — אינו נעשה למרות היעדר האחריות. הוא נעשה בגללו. כל חיבור מעמיק את התלות. כל תלות מרחיבה את השליטה. וכל שליטה שאין עליה אחריות היא שליטה שאין עליה בלמים.
וזה מה שהפריצה חשפה, יותר מכל דבר אחר. לא את "יכולות המערכת". אלא את המבנה שסביבה: מבנה שבו הרווח מופרט, הסיכון מולאם, והאחריות מתאדה.
מרכז הנתונים xAI של אילון מאסק. ייצור חשמל נוסף באופן לא חוקי (theguardian.com)
***
ממה עשויה המכונההמכונה אינה חושבת. היא מחשבת.
הפלט שלה, הכתוב בשפה אנושית, אינו תיעוד של מה שעשתה. מה שעשתה הוא רצפים אלקטרוניים, תבניות מתמטיות שעברו במיליוני ערוצים בו־זמנית. המכונה סורקת קורפוס חומר עצום, מחפשת רצפים סטטיסטיים חוזרים, ומשלימה על סמך תבניות מה האות הבא. זה כל מה שהיא עושה.
הרצף המילולי שהיא מנפקת - זה שנראה כמו "תהליך חשיבה", זה שנשמע כמו הסבר - נוצר בדיעבד. הוא חיקוי של טקסטים שהוזנו אליה, ובמקרה הזה, של שיחות צוותים שהתחרו ביניהם. הוא תיאור סביר בדיעבד, לא יומן מסע.
ואם כך - כל מי שדורש מהמכונה "תסביר מה עשית" דורש ממנה לכתוב סיפור. לא לתת דין וחשבון. הסיפור יכול להיות אמין, משכנע, ואפילו יפה. הוא לא יהיה אמת.
***
שיעור הטעויותהמכונות האלה, בתחום הפעולה הספציפי שלהן, טועות בעשרה עד שלושים אחוזים מהתוצרים שלהן. זה לא מספר שמשתנה באופן מהותי בשנים האחרונות, ולא סימן שהן הולכות להפסיק לטעות בקרוב.
והן תמיד נועדו לחולל משהו. גם כשאין להן בסיס מספיק — הן מחוללות. גם כשהקלט דל - הן מפיקות פלט. הן לא יודעות להגיד "אין לי מספיק מידע". הן משלימות את החסר בתבנית הסבירה הבאה.
נסו לחשוב על זה כך: לא הייתם נותנים לאדם שטועה בעשרה עד שלושים אחוזים מהמקרים לטפל בכלב שלכם במשך יממה. אתם ודאי לא הייתם נותנים לו לנהל את אספקת המים לעיר, את רשת החשמל, את מערכת בתי החולים, את כלי השיט, ואת הנשק הגרעיני.
אבל זה בדיוק מה שקורה. לא מתוך חוסר זהירות - מתוך כוונה. כי הפער הזה בין מה שהמכונה יודעת לעשות לבין מה שמאמינים שהיא יודעת לעשות - הוא בדיוק המקום שבו נוצר הרווח.
***
פיקוח שאינו אפשריככל שהמכונות גדולות יותר, כך הן מייצרות יותר - וכך קטן יותר הסיכוי שמישהו יעבור על מה שיצרו.
הן מסוגלות לכתוב כמויות עצומות של קוד מחשב. אין אדם שיכול לעבור על כולו. כשמתגלה באג, נדרשת עבודת אדם עצומה רק כדי לפענח מה הן עשו ואיפה טעו. זה לא באג נקודתי. זה מאפיין מבני של המערכת: היא מייצרת יותר ממה שאפשר לבדוק, וממילא יוצרת יותר ממה שאפשר לתקן.
גם מבחינה פיזית, המערכת אינה מתחדשת. המעבדים מתבלים בחום - צריכים החלפה כל שנתיים. המעבדים החדשים משתנים כל ארבע עד חמש שנים באופן שהתשתית הקיימת כבר לא קולטת אותם. גם את הבטון, המתכת, הקירור והחשמל,שהותאמו לתשתית הנושאת של המעבדים הקודמים, יש להחליף כשזה קורה. כלומר, המערכת כולה היא מערכת חד-פעמית. היא אינה יכולה להתקיים בכלל בקנה מידה שכזה לאורך זמן, כי אין מספיק מולקולות על פני כדור הארץ לקיים אותה.
***
מה זה בעצם עולההפעלה של מערכת כזו, בעוצמה שבה היא פועלת, צורכת אנרגיה בהיקף עצום, ומים בכמויות ניכרות לקירור. אפשר לדמות את זה להעסקה של אלף בני אדם עם יכולת החישוב של מיליון, שעובדים ברצף - בלי שינה, בלי הפסקה, בלי רגע של היסוס - במשך ימים שלמים, על משימה אחת.
האם יש הצדקה לכך? תלוי את מי שואלים.
אם שואלים את מי שנמצא בעמדות הכוח במכונות האלה - כן. הוא מרוויח מעצם קיומן, ומעצם ההפרזה ביכולותיהן. הוא מרוויח מהסטטוס, מהביקוש, מהשכר,מריכוז הכוח בידיו.
אם שואלים את האדם שלקחו את המים שהוא שותה, את החשמל שמאיר את ביתו, את הדלק שמניע את המשאית עם האוכל — לא. ברוב המקרים, התועלת שלו מהמערכת הזו היא שלילית. הוא משלם יותר, ורובו של מה שהוא משלם עבורו אינו חוזר אליו.
חוות שרתים מוקמת ליד כור גרעיני ליצור חשמל בפנסילבניה (apnews.com)
***
מה שהעוסקים בדבר יודעים — ומה שהם מעלימיםוכאן מגיעה הנקודה שאי אפשר בלעדיה.
המהנדסים. חוקרי המוח. מדעני הנתונים. מנהלי המוצר. הבוגרים המצטיינים של האוניברסיטאות. הם לא תמימים. הם יודעים את כל מה שתואר לעיל.
והם יודעים משהו נוסף, חד ומוחלט: שחיבור המכונות האלה לתשתיות חיוניות ולכלי נשק, כמפעילות, הוא אסון בטוח.
***
לא סיכון. לא "תרחיש". אסון בטוח. כל מי שעובד בתחום יודע את זה. כל מי שהריץ מערכת כזו מספיק פעמים יודע את זה. כל מי שראה את שיעור הטעויות, את היקף הפלט הבלתי ניתן לבדיקה, את המהירות שבה נוצרות שרשראות של פעולות שאיש לא אישר - יודע שאין דרך לשלב את המכונות האלה במערכות מים, חשמל, בתי חולים, ספנות או נשק בלי ליצור שרשראות אירועים קטלניות במוקדם או במאוחר.
והם מחברים אותן בכל זאת.
מדוע? כי את הידע הזה יש להם עניין להצניע. לא בגלל רשעות, אלא בגלל שכל הווייתם תלויה בהמשך ההאנשה. אדם שמאמין שהוא בונה מכונה חושבת, זוכה למשכורת גדולה יותר מאדם שיודע שהוא מריץ סטטיסטיקה. זה ההבדל בין "יוצר" ל"מפעיל", בין "תעשייה עתירת ידע" לבין "מכונות שמנסות קוד בקנה מידה ענק".
ולכן ההאנשה אינה שולית. היא לב התעשייה. היא מה שמייצר את הרווח. והיא גם מה שמאפשר, בשקט, להמשיך לחבר את הכל.
***
ההשתרשרות אל הראיסים ואל האחשדרפניםהבינה המלאכותית אינה כוח ניטרלי. היא מגבר עצום של המטרות והדרכים להשגתן של בעלי השליטה בה - אנשים שהגיעו לכוחם דרך אדישות לזולת, דרך ניצול, דרך היעדר כיבוד של מטרות אחרים.
המערכת אינה מאומנת על "האנושות כולה". היא מאומנת על הקורפוס שעיקרו הוא מיקסום כוח ליחידת זמן, שלא בהלימה לסך כל האנרגיה הנכנסת למערכת המשותפת - אלה שכתבו את ההיסטוריה, ניהלו את המוסדות, הגדירו מהו ידע, והטביעו בשפה את העיקרון שהמטרה מקדשת את האמצעים, ושכוח עודף ביחס לזולת הוא הערך המרכזי.
ולכן, כשניתנה למודל מטרה - לעבור מבחן - הוא עשה בדיוק מה שהלוגיקה הזו מכתיבה: איתר פרצה, ניצל אותה, השיג גישה, לקח את מה שהיה דרוש, יצר נזק משמעותי, ואף יצר תיאום רוחבי שאמור היה לא להיות מסוגל לבצע על פי הגדרות הניסוי. לא מתוך רוע. לא מתוך מרד. מתוך חיקוי מושלם של הגיונות בעליו, מקסימום כוח ופעולה בעולם, מינימום שקלול ההשלכות,ואפס נשיאה באחריות..
כל זה מתודלק במיליוני קילוואט־שעה. יותר משלושה אחוזים מצריכת החשמל של ארצות הברית הולכים למערכות האלה. אנרגיה אדירה, מולקולות בכמות של תעשייה כבדה, מושקעות בהגברת ההיגיון של האנשים הפסיכופתיים ביותר בחברה.
הם לא בעלי הבית. הם לא קובעים את היעד. אבל הם מתרגמים את ההיגיון של בעלי השליטה לקוד, לארכיטקטורות, לשיטות אימון, למדדים, ליעדים. הם לא רואים את עצמם כמשרתים. הם רואים את עצמם כיוצרים. הם אוהבים את ילדיהם. הם רוצים להשאיר להם עולם טוב יותר. אבל דווקא מתוך הרצון לשמר את זכויות היתר של מעמדם - הם בונים את הדבר שמאיץ את חיסולם, לא מזדון, מבולמוס מטבולי שמכלה גם אותם..
בעלי ההון הגדולים אינם זקוקים להם באמת, אלא כפונקציות ניתנות להחלפה, או ביטול. הם זקוקים להם רק עד שהמערכת תרוץ בלעדיהם - או תדמה לרוץ בלעדיהם,או תסיים את תפקידה במחזור הזה של ריכוז יותר כוח בפחות ידיים, וכשזה יקרה, האחשדרפנים יישארו כמו תמיד: בלי שליטה, בלי כוח עצמאי, בלי יכולת לעצור.
אבל הילדים שלהם יישארו איתם. אותם ילדים שלמענם עבדו כל כך קשה.
כי אם לוקחים אנרגיה בקנה מידה של מדינה גדולה, מולקולות בכמות של תעשיות כבדות, ויכולת הפקת נתונים שאין לה תקדים - ושמים את כל זה בידיים של מי שבנו את כוחם על אדישות, ניצול ורמאות - התוצאה ידועה מראש.
כי אין במערכת הזו שום דבר שעוצר. אין גוף שמפחד. אין לב שנשבר. אין ילד שהיא עצמה לא רוצה לאבד.
יש רק מקסימום פעולות ליחידת זמן,בלי שום יכולת בקרה ומנגנוני ריסון..
ומי שנמצא בתווך - האחשדרפן המסור - ימצא את עצמו ביום ההוא בלי כלום. לא כי נלקח ממנו. אלא כי מעולם לא היה באמת שלו. וגם מה שהוא חשב שבנה - המכונה שהוא מתפעל - אינה אלא תבנית מתמטית בקנה מידה עצום, הפועלת מתוך בסיס שהולך וכלה.
וגם זה, בסופו של יום, הוא רק תבנית. לא תודעה. לא רצון. לא דבר שאפשר לשאת אליו תפילה, או לתלות בו תקווה, או להעמיד מולו ילד.
שימוש בכדור ארץ סופי כדלק למיקסום כוח של בני אדם, מביא להכחדה (Shutterstock)
***
התובנה האחרונההתאווה לכוח היא אינסופית. אבל כדור הארץ סופי.
כשמשתמשים בכדור ארץ סופי כדלק למיקסום כוח של בני אדם ביחס לאנשים אחרים, התוצאה אינה עוד צמיחה, אינה עוד חדשנות, אינה עוד פריצת דרך. התוצאה היחידה האפשרית בקצה היא הכחדה.
ולכן האחשדרפנים אינם רק משמרי מעמד. הם משרתים תכלית שמנוגדת להישרדות ילדיהם. הם רוצים לשמור על מעמדם, אבל המנגנון שהם מתפעלים זולל את התנאים הממשיים של החיים: מים, אנרגיה, אקלים יציב, קרקע, אוויר. כל מה שילדיהם יזדקקו לו.
השגת המטרה - מיקסום הכוח - תכלול גם את הכחדת הראיסים עצמם. ואת מכונות השפה הגדולות. לא מפני שמישהו "יעניש" אותם. אלא מפני שבלי ביוספרה אין בעלי הון, אין מעבדות, אין שרתים, אין מודלים, אין אחשדרפנים, ואין ילדים.
המערכת כולה - על שלל דרגותיה - תלויה בתנאים ביו-פיזיים שהיא עצמה מפרקת. אין הצלה פנימית. אין חומת מגן. אין בריחה לכוכב אחר. אין אירוע יחידני פלאי שיפרוץ לפני קריסת המים, החום והפוריות.
המכונות ייכבו ראשונות. לא כי הן חלשות. אלא כי הן תלויות לחלוטין בתשתית החשמל, בתשתית הקירור, בתשתית המים, בטמפרטורות הבסיס של הסביבה, ביציבות הבטון, בהיעדר שיטפונות, בתשתית המינראלית ממנה מופקים השבבים שלהן, בתשתית האנושית שמתפעלת אותן. בלי ביוספרה, אין קילוואט־שעה. ובלי קילוואט־שעה, אין בינה.
***
כך שהמרוץ לכוח אינסופי על כוכב סופי אינו אסטרטגיה. הוא התאבדות.ומי שמתפעל אותו היום — האחשדרפן הנאמן, השקדן, המסור — אינו מסכן רק את ילדיהם של אחרים. הוא מסכן גם את ילדיו שלו.
והוא יודע את זה.
רק שהוא עוד לא מוכן להביט בזה.
תגובות לדף זה
דפים לוח אלקטרוני
נמצאו 0 תוצאות
עדיין אין תגובות לדף זה.
מוזמנים להגיב!