Alpaca - אפליקציית GTK4 חדשה לצ'אט עם AI במצב לא מקוון

רוצה לשוחח בצ'אט עם מודלים של AI באופן מקומי ללא חיבור לאינטרנט? הנה יישום פשוט שיכול לעשות את העבודה בשולחן העבודה של לינוקס!

זוהי אלפקה, אפליקציית קוד פתוח חינמית הכתובה בשפת תכנות פייתון. הוא משתמש ב-Ollama כקצה אחורי לניהול וצ'אט עם מודלים מרובים של בינה מלאכותית, ללא צורך במפתחות API.

על ידי שימוש בערכות הכלים GTK4 בתוספת Adwaita, הוא מספק ממשק גרפי מודרני ופשוט המשולב היטב באובונטו, תחנת העבודה פדורה ולינוקס אחרים עם שולחן העבודה של GNOME.

האפליקציה מורידה את מודלי הבינה המלאכותית למחשב המקומי שלך, כך שתוכל לשוחח בצ'אט מקומי ללא חששות בנוגע לפרטיות.

הוא כולל Meta Llama 3, Google Gemma 2, Microsoft Phi3, Llava AI מודלים בתיבת הדו-שיח הראשונה של קבלת הפנים להשקה. אמנם, ישנם הרבה מודלים AI אחרים זמינים בתיבת הדו-שיח הניהולית, כולל Alibaba Qwen2, Deepseek Coder V2, Mistral AI, Command R, Openchat ועוד!

היא גם תומכת בייבוא מודלים של בינה מלאכותית מקבצי GGUF, אם כי התכונה ניסיונית כרגע כתיבת שורות אלה.

Alpaca מאפשרת לך לשוחח עם מספר מודלים AI באותה שיחה, תומכת בזיהוי תמונה (עם מודלים תואמים), זיהוי מסמכים, הדגשת קוד, זיהוי YouTube, PDF וזיהוי אתרים. כמו כן, הוא תומך בייבוא וייצוא הצ'אטים שלך.

תמונה מתוך דף GitHub של Alpaca

מכיוון שמודלי AI מאוחסנים במערכת מקומית, הנתונים יכולים לקחת עשרות GB שטח דיסק, תלוי בכמה דגמים הורדת. בנוסף, הוא עלול לגרום לשימוש גבוה ב- CPU (במיוחד עבור מחשב ברמה נמוכה) בעת מענה על שאלותיך.

לבחירה, המשתמש יכול להגדיר שרת Ollama במחשב אחר, ולאחר מכן להשתמש ביישום זה כדי להתחבר מרחוק.

כיצד להתקין אלפקה:

Alpaca זמינה להתקנה כחבילת Flatpak הפועלת בסביבת ארגז חול.

Linux Mint (מאז 21.x) ופדורה 38+ (עם מאגר צד שלישי מופעל) יכולות לחפש ולהתקין אותו ישירות ממנהל התוכנה או מתוכנת GNOME.

בעוד לינוקס אחרים יכולים לבצע את השלבים הבאים אחד אחד כדי להתקין.

1. הפעל תמיכה ב- Flatpak

עבור אובונטו, דביאן והמערכות המבוססות עליהן, פתח מסוף (Ctrl+Alt+T) והפעל את הפקודה כדי לאפשר תמיכה בחבילת Flatpak:

sudo apt install flatpak

בעוד לינוקס אחרים יכולים לעקוב אחר מדריך ההתקנה הזה כדי לקבל תמיכה בו.

2. התקן את חבילת Flatpak

לאחר שתקבל את התמיכה בפורמט הקובץ, תוכל להפעיל את הפקודה הבאה כדי להתקין את אפליקציית הצ'אט AI:

flatpak install https://dl.flathub.org/repo/appstream/com.jeffser.Alpaca.flatpakref

לחלופין, עבור לדף זה, הורד את קובץ ההתקנה, סוף סוף הפעל את flatpak install /path/to/flatpak-file כדי להתקין.

לאחר התקנת החבילה, תוכל לחפש ולהפעיל את היישום מתפריט התחלה או מסקירת גנום בהתאם לסביבת שולחן העבודה שלך.

אם אינכם רואים את סמל האפליקציה, נסו להתנתק ולהיכנס שוב, או הפעילו את הפקודה הבאה במקום זאת כדי להפעיל אותה מהטרמינל:

flatpak run com.jeffser.Alpaca

3. עדכן את החבילה

ייתכן שמנהל תוכנת המערכת שלך אינו תומך בעדכון חבילות האפליקציות של Flatpak. במקרה זה, פתח את המסוף והשתמש בפקודה שלהלן במקום זאת כדי לבדוק עדכונים:

flatpak update com.jeffser.Alpaca

4. הגדר הרשאות אפליקציה (אופציונלי)

בהשקה הראשונה של אפליקציית Alpaca, אתה צריך חיבור לאינטרנט כדי להוריד מודלים AI, אלא אם כן אתה מתכוון להשתמש במופע Ollama מרוחק עבור צ'אט backend.

לאחר מכן, תוכל אפילו להשבית הרשאת גישה לרשת עבור יישום זה, על-ידי ביצוע השלבים הבאים:

  • ראשית, הפעל פקודה להתקנת Flatseal:

    flatpak install https://dl.flathub.org/repo/appstream/com.github.tchx84.Flatseal.flatpakref

  • לאחר מכן, הפעל את Flatseal, נווט אל "אלפקה" בסרגל הצד השמאלי, ולבסוף כבה את אפשרות החלפת הרשת.

הסרת ההתקנה של אלפקה

כדי להסיר את התוכנה, פתח את המסוף (הקש Ctrl+Alt+T באובונטו) והפעל את הפקודה:

flatpak uninstall --delete-data com.jeffser.Alpaca

בנוסף, הפעל את ההתקנה של flatpak -- לא בשימוש כדי לנקות ספריות זמן ריצה חסרות תועלת.