להפריד בין יכולת אמיתית לשיווק בגרסאות האחרונות של OpenAI
כל כמה חודשים OpenAI משחררת מודל חדש שהעיתונות הטכנולוגית קוראת לו "מהפכני". לצוותי פיתוח ארגוניים, השאלה פשוטה יותר: האם זה משנה את מה שאנחנו יכולים לבנות ללקוחות?
אנחנו משלבים מודלי שפה גדולים במערכות פרודקשן מאז GPT-3.5. הנה ההערכה הכנה שלנו — מה באמת שימושי ומה עדיין נשאר ברמת השיווק.
מה חשוב לאפליקציות ארגוניות
קריאת פונקציות ופלט מובנה
זו היכולת הכי לא מוערכת למפתחים ארגוניים. מודלים יכולים עכשיו להחזיר JSON מובנה שמתאים לסכמה מוגדרת מראש, והם יכולים "לקרוא" לפונקציות בקוד האפליקציה שלכם. זה הופך LLMs ממחוללי טקסט לרכיבים של מערכות תוכנה אמיתיות.
אנחנו משתמשים בזה בהרחבה בפרויקטי ה-Agentic AI שלנו. במקום לנתח פלט טקסט ולקוות שהפורמט תקין, אנחנו מגדירים סכמות לפעולות סוכנים ומקבלים תגובות מובנות ואמינות. שיעור השגיאות ירד מכ-15% לפחות מ-2% כשעברנו מניתוח טקסט לקריאת פונקציות.
קלט רב-מודאלי
GPT-4o מעבד תמונות, אודיו וטקסט במודל אחד. לאפליקציות ארגוניות, זה אומר עיבוד מסמכים בלי עיבוד OCR מקדים, בדיקה ויזואלית לבקרת איכות, ותמלול אודיו משולב עם ניתוח — הכל במעבר אחד.
מודלים של חשיבה
המודלים האלה חושבים שלב-שלב לפני שעונים. למשימות אנליטיות מורכבות — מחקר משפטי, מידול פיננסי, סקירת קוד — הם מייצרים תוצאות טובות יותר באופן מדיד. הם גם יותר איטיים ויקרים, אז כדאי לשמור אותם למשימות שבהן דיוק חשוב יותר ממהירות.
מה עדיין לא מוכן לארגונים
ייצור קוד אוטונומי. AI יכול לכתוב קטעי קוד, אבל ייצור תוכנה בדרגת פרודקשן עדיין לא מספיק אמין. אנחנו משתמשים בעוזרי AI כדי לזרז את המפתחים שלנו, לא כדי להחליף אותם.
קבלת החלטות ללא פיקוח. לכל החלטה עם השלכות רגולטוריות, פיננסיות או בטיחותיות, AI צריך להכין המלצות לבדיקה אנושית, לא לפעול בצורה אוטונומית.
איך אנחנו ב-Globalbit משתמשים ביכולות האלה
מערכת ה-AI המשפטית שלנו (Psika.ai) משתמשת בקריאת פונקציות כדי לבנות חיפושי תקדימים. כלי עיבוד המסמכים שלנו משתמשים בקלט רב-מודאלי לטיפול במסמכים בעברית ואנגלית. כלי סקירת הקוד שלנו משתמשים במודלים של חשיבה כדי לזהות שגיאות לוגיות שמודלים פשוטים מחמיצים.
הדפוס הקבוע: אנחנו משתמשים ביכולות המודל העדכניות ביותר היכן שהן נותנות ערך ברור, וחוזרים לקוד דטרמיניסטי לכל השאר.
שאלות נפוצות
כדאי לחכות למודלים טובים יותר לפני שמתחילים פרויקט AI? לא. דפוסי הארכיטקטורה ועבודת האינטגרציה שעושים היום עוברים למודלים עתידיים. כשמודל טוב יותר מגיע, מחליפים את שכבת המודל — שאר המערכת נשארת.
באיזה מודל להשתמש? תלוי במשימה. GPT-4o לעבודה כללית, מודלים של חשיבה לניתוחים מורכבים, ומודלים קטנים יותר למשימות בנפח גבוה ומורכבות נמוכה. רוב המערכות הארגוניות משתמשות במספר מודלים.
בוחנים איך AI משתלב במערכות הארגוניות שלכם? נשמח ללוות אתכם בשיקולים המעשיים.