פרפלקסיטי הוציאה את הסוכן מהענן. עכשיו הוא רץ אצלכם על השולחן

ולאן בדיוק הולכים הקבצים שלי?

בכל הרצאה שאני נותן, אי שם סביב הדקה הארבעים, מישהו מרים יד ושואל את זה. בדרך כלל זה מישהו מבנק, מקופת חולים או ממשרד עורכי דין. תמיד אותה שאלה, תמיד באותה נימה זהירה.

והתשובה שלי עד השבוע הייתה לא נעימה. הקבצים הולכים לשרת באירלנד או בווירג'יניה. יש חוזה שאומר שלא מאמנים עליהם. ואתם צריכים לסמוך על החוזה.

ביום שני פרפלקסיטי נתנה תשובה אחרת.

מה רץ על המחשב שלכם

החברה שחררה את פורטבל קומפיוטר לאפליקציית ווינדוס שלה, לכל מנויי פרו ומקס, בחשבונות פרטיים וארגוניים כאחד. מורידים את האפליקציה מהחנות של מיקרוסופט, בוחרים מודל מהתפריט, לוחצים פעם אחת, והוא יורד למחשב.

מה שמיוחד כאן זה לא שהמודל רץ מקומית. זה כבר מזמן לא חדשות.

מה שרץ מקומית זה כל השאר: המתזמר, המתכנן, נתב הכלים, תור המשימות, ואינדקס החיפוש. הסוכן השלם, על כל הצינור שלו, יושב על המכונה שלכם. גם ההכתבה עובדת מקומית, דרך מודל תמלול של אנבידיה, כך שגם ההקלטות לא עוזבות.

המודל שמגיע כברירת מחדל הוא קוון 3.8 בגודל 27 מיליארד פרמטרים, שעבר אימון ייעודי כדי לעבוד עם הסוכן והותאם לכרטיסי המסך של אנבידיה. מודל נמוטרון של אנבידיה, בגודל 30 מיליארד פרמטרים, אמור להצטרף לתפריט בקרוב. כן, שמתם לב נכון: אותם מודלים סיניים פתוחים שמחקו שווי משוק בסדר גודל של טריליון דולר הם אלה שיושבים עכשיו על שולחן העבודה שלכם.

בהודעה של אנבידיה יש שני משפטים ששווים כסף. הראשון: מידע רגיש נשאר על המכשיר. השני: עבודה שהושלמה מקומית לא צורכת קרדיטים.

שימו לב למה שקורה כאן מבחינה עסקית. אתם משלמים מנוי חודשי, ואז עושים עבודה שלא עולה לפרפלקסיטי כלום. החשמל שלכם, הכרטיס שלכם, הקרדיטים נשארים בכיס. גם אנבידיה מרוצה מאוד, כי כדי להריץ את זה צריך לקנות ממנה חומרה.

וזה לא סוכן שכלוא בתוך תיקייה אחת. יש לו מחברים לאאוטלוק, וואן דרייב, וורד, גוגל דרייב, ג'ימייל, סלאק וגיטהאב, והוא מתחבר לתוכנות נוספות על המחשב דרך שרתי אם-סי-פי מקומיים. הוא יכול לקרוא מיילים, לפתוח מצגת, לעבור על גיליון, להריץ קוד בארגז חול מבודד, ולפרסם סיכום בערוץ של הצוות. הכל בלי שהחומר עצמו יעזוב את המכונה.

אפשר גם לתזמן. משימה חוזרת שרצה כל בוקר על החומרה שלכם, בלי שאף אחד סופר לכם שימושים.

הדוגמה שפרפלקסיטי עצמה מביאה היא הכי מוצלחת מבין כולן: בקר בחברת לוגיסטיקה מתזמן את הסוכן להתאים חשבוניות הובלה מדי בוקר. הוא מצליב כל חשבונית מול מחירוני המוביל השמורים אצלו, מסמן חיובים כפולים ותעריפים שחורגים מהחוזה, ומייצר תור חריגים עם המלצה לפעולה לכל אחד. נתוני החשבוניות לא יוצאים מהמכונה של החברה אף פעם.

עכשיו החלק הפחות נוח

כדי להריץ את זה צריך כרטיס ג'יפורס אר-טי-אקס או אר-טי-אקס פרו עם לפחות 24 ג'יגה-בייט של זיכרון וידאו.

זה לא לפטופ. זה גם לא המחשב שעומד אצלכם על השולחן במשרד. זה כרטיס גיימינג עליון או תחנת עבודה מקצועית, ובישראל המחיר שלו מתחיל באזור שקשה להצדיק בתור הוצאה משרדית שגרתית. תמיכה בתחנות די-ג'י-אקס של אנבידיה אמורה להגיע בקרוב, וזה כבר מוצר בקטגוריית מחיר אחרת לגמרי.

ויש מגבלה שנייה, והיא עקרונית יותר. מודל של 27 מיליארד פרמטרים הוא טוב. הוא לא חזית הטכנולוגיה. הוא לא יפתור לכם בעיה משפטית מורכבת ולא יכתוב אסטרטגיה שתשנה לכם את הרבעון.

פרפלקסיטי יודעת את זה, ולכבודה ייאמר שהיא לא מסתירה. לפי הפירוט שהתפרסם ביוניט איי-איי, הסוכן מזהה בעצמו מתי משימה דורשת חשיבה כבדה, ואז מבקש מכם אישור לפני שהוא שולח משהו החוצה אל אחד מיותר מ-15 המודלים המובילים שזמינים לו בענן.

אז זה לא "שלום ולא להתראות לענן". זה מיון. העבודה השגרתית, הרגישה והחוזרת נשארת בבית. החשיבה הקשה יוצאת החוצה, באישור שלכם, ובידיעה מלאה.

ואני מעדיף את זה על הבטחה לפרטיות מוחלטת שממילא לא הייתה מחזיקה מים.

שווה גם להגיד את מה שפרפלקסיטי לא אומרת. ברגע שהסוכן רץ אצלכם, האחריות עוברת אליכם. אין מי שיעדכן לכם את המודל בלילה, אין צוות שמנטר התנהגות חריגה, ואם המכונה נדבקת, הסוכן עם כל ההרשאות שלו לאאוטלוק ולגיטהאב יושב עליה. ארגון שרוצה את היתרון הזה צריך לחשוב על ניהול נקודות קצה, לא רק על כרטיס מסך.

הסף שנחצה בשקט

שלוש שנים התעשייה שאבה הכל לענן. כל מסמך, כל הקלטה, כל טיוטה, כל שיחת זום. לא כי מישהו רצה את המידע שלכם במיוחד, אלא כי הכלכלה חייבה את זה. המודלים היו גדולים מדי מכדי לרוץ על משהו שאדם רגיל יכול לקנות.

השבוע, מודל בגודל 27 מיליארד פרמטרים שרץ על כרטיס גיימינג עשה מספיק עבודה אמיתית כדי שיהיה שווה להריץ אותו. זה סף שנחצה בלי מסיבת עיתונאים.

וזה משנה בדיוק לאותם אנשים ששואלים אותי את השאלה. רואת החשבון שלא תעלה לענן את ספרי הלקוחות. עורך הדין עם תיקי הגירושין. הקליניקה הקטנה עם התיקים הרפואיים. הם לא נמנעו מבינה מלאכותית כי הם לא הבינו את הערך. הם נמנעו כי הם הבינו אותו טוב מדי, והם מבינים גם מה עולה למעלה.

פרפלקסיטי, אגב, כבר ניסתה את הכיוון הזה. היא בנתה עובד דיגיטלי שלא ישן ואז נעלה אותו בחדר סגור. עכשיו החדר הסגור הזה עבר לשולחן שלכם.

בהרצאה הבאה, כשהיד תעלה, תהיה לי תשובה אחרת. לא מושלמת. אבל אחרת, והיא דורשת כרטיס מסך.