היילו השיקה מאיץ GenAI מקומי למכשירי קצה, בלי תלות בענן
המאיץ החדש, Hailo-10H, של החברה הישראלית מאפשר להריץ מודלים גנרטיביים באופן מקומי, בלי לשלוח מידע לענן ועם תמיכה במודלים מתקדמים כמו LLM ו-VLM
Hailo-10. תמונה: באדיבות החברה
חברת Hailo הישראלית חשפה היום (ג') את Hailo-10H – מאיץ הבינה המלאכותית החדש שלה, שתוכנן להריץ מודלים גנרטיביים (GenAI) ישירות על מכשירי קצה (Edge), ללא צורך בחיבור לרשת או לשירותי ענן חיצוניים. לדברי החברה, המאיץ משלב בין יכולות ראייה ממוחשבת (Computer Vision) להרצת מודלים שפתיים (LLMs) ומולטימודליים (VLMs) בתצורת inference מקומית.
Hailo-10H מיועד לשילוב במגוון תרחישים: ממחשבים אישיים ונתבים, דרך מערכות infotainment לרכב (IVI) ופתרונות לבית החכם ועד יישומים בתעשיות הביטחונית, הרפואית והטלקום. לדברי החברה, הוא מותאם במיוחד להפעלה בסביבות שבהן יש מגבלות על רוחב פס, זמינות רשת או דרישות ל־low-latency ול־low-power. המאיץ מגיע עם ערכת תוכנה (SDK) הכוללת דוגמאות למודלים ממשפחות פתוחות כמו Qwen, DeepSeek ו־Ollama, וממשקי API שמאפשרים אינטגרציה עם מערכות קיימות, כולל מערכי ניהול תוכן ויישומי קצה.
בלי מנוי חודשי לענן
בשיחה עם ITtime הסביר סמנכ"ל הטכנולוגיה של החברה, אבי באום, כי "זמני תגובה ועלויות אינם מספרים מוחלטים, אלא תלויים באפליקציה ובמודלים. אבל עצם זה שמדובר בעיבוד מקומי, בלי שליחה וקליטה מול הענן, משפר משמעותית את זמן התגובה. בנוסף, אם האפליקציה רצה מקומית, אין צורך במנוי חודשי לשירות ענן, מה שחוסך הוצאות באופן ישיר".
לדבריו, ההבדל המהותי ניכר כשמדובר בקלט מסוג וידאו: "העיבוד המקומי מאפשר לשלוח לענן רק את המטא דאטה, ולא את כל קובצי הווידאו. זה הבדל תפעולי מהותי". באום הוסיף כי עלות מצטברת של שירות עיבוד בענן יכולה להגיע ל-360 עד 720 דולר לאורך שלוש שנות חיי מכשיר, לעומת עלות של כמה עשרות דולרים בלבד למאיץ – הבדל של עד פי 20.
כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime
מעבר לשיקולים הכלכליים, בחברה מציינים גם שיקולים של אבטחת מידע ויציבות תפעולית. לפי Hailo, אחת החוזקות של המאיץ היא בכך שהוא מאפשר לבצע עיבוד ישירות על המכשיר, בלי לשלוח נתונים רגישים לשירותי ענן – מה שיכול לצמצם חשיפות אפשריות לדליפות מידע ולשפר את השליטה בפרטיות. בנוסף, עיבוד מקומי עשוי להפחית תלות ברוחב פס ובזמינות רשת, שרלוונטי לסביבות שבהן אין חיבור קבוע או יציב כמו מערכות ניידות או פרוסות בשטח. יחד עם זאת, בחברה מדגישים שלא מדובר בהחלפה של הענן, אלא בגישה משלימה: "יש אפליקציות שימשיכו לפעול בענן, אבל אנחנו רואים יותר ויותר מקרים שבהם עדיף או נכון לבצע עיבוד מקומי", הוסיף באום.
מבחינת ביצועים, Hailo 10H תומך בהרצת מודלים בהיקף של שני מיליארד פרמטרים, עם זמן תגובה ראשוני של פחות משנייה וקצב של יותר מ־10 טוקנים לשנייה. בתחום הווידאו הוא מאפשר הרצת מודלים כמו YOLOv11m לזיהוי אובייקטים בזמן אמת על גבי וידאו ברזולוציית 4K.
המאיץ צורך חשמל טיפוסי של 2.5 ואט בלבד, עומד בתקן AEC Q100 Grade 2 של תעשיית הרכב, ומתוכנן להשתלב בדגמים מסחריים החל ב־2026.
