הרוב משתמשים כיום בצ’אבוט כזה או אחר, ולא משנה אם קוראים לו ChatGPT או Gemini או כל שם אחר, עושים את זה באמצעות אתר או אפליקציה שמציעים ממשק שמחבר את המשתמש למודל שעושה את העבודה באופן מקוון. אבל כלי חדש בשם Chat with RTX של Nvidia מביא כעת את היכולות הללו לשימוש אישי, במחשב של כל אחד ואחד שמצויד בחומרה המתאימה – ואפשר להתנסות בו בחינם.
מדובר עדיין בדמו, אבל לפי Nvidia כבר בגרסה הנוכחית Chat with RTX מאפשר לכל אחד להריץ מודל שפה גדול (LLM) לשימוש אישי המבוסס על הנתונים שהוא מספק לבוט, וזה כולל מסמכים, פתקים, סרטוני וידאו, תמונות וכל סוג אחר של מידע – וכל המידע, כולל השאילתות, נותר במחשב בלי להיחשף לרשת.
באמצעות מינוף של כמה טכנולוגיות, כולל Retrieval-Augmented Generation, מודל TensorRT-LLM והאצת RTX, “אתם יכולים לתשאל את הצ’אטבוט המותאם אישית שלכם כדי לקבל במהירות תשובות רלוונטיות לפי ההקשר.
כאמור Chat with RTX ניתן להורדה בחינם, אבל כדי שניתן יהיה להשתמש בו המחשב צריך לעמוד במפרט הבא: מערכת ההפעלה Windows 11, כרטיס מסך ממשפחת GeForce RTX 30/40 או כרטיס מסך מקצועי Nvidia RTX שמבוסס על ארכיטקטורת Ampere או Ada – ובכל מקרה עם 8 גיגה-בייט זיכרון תצוגה ועם מנהל התקן בגרסה 535.11 ומעלה, וגם פחות 16 גיגה-בייט זיכרון RAM.
לא מבין מה זה הכלי הזה ?
מה תורם לי ?
אני עובד עם Gemini שנחמד אבל לא מי יודע מה עוזר לי בחיים .