אנבידיה פיתחה פלטפורמה שנאבקת בתשובות הלא נכונות של הצ'טבוטים

אם שאלתם צ'טבוטים מהסוג שצובר פופולריות רבה יותר ויותר בתקופה האחרונה שאילתות, ייתכן שקיבלתם תשובות לא נכונות ומוזרות משהו – בעיקר בעברית, אבל לא רק. אנבידיה פיתחה פלטפורמת קוד פתוח שמטרתה להיאבק בתשובות הלא נכונות הללו, ולהביא לכך שכשנשאל את הצ'טבוט – נקבל תשובות שניתן לסמוך עליהן.

הפלטפורמה החדשה, NeMo Guardrails, מאפשרת, לפי החברה, להגביר את האמינות על ידי כך שהיא מאפשרת לחברות ולארגונים לפתח, לאמן, לכוון ולהשיק צ'טבוטים המבוססים על המידע הקנייני שלהם עצמם, ולהשיב בנושאים מוגדרים בתוך גבולות מוצבים היטב.

באנבידיה טוענים שהשימוש ב-NeMo Guardrails מסייע להניח לצ'טבוטים כמה גבולות עיקריים: למנוע סטייה לנושאים לא רצויים, לוודא שהמידע מדויק ומתאים לנושא השיחה ולמה שקורה בארגון, להבטיח שההפנייה לחיפוש החומר שעליו מבוססת התשובה מתבצעת רק למאגרי ידע שמוגדרים כאמינים לפי הארגון ולהשתמש במסננים של שפה לא רצויה.

החברה מציעה את כל הקוד, בליווי דוגמאות ותיעוד, כך שכל מפתח או חברה יכולים להשתמש בפלטפורמה, ללא צורך במומחיות. ניתן לייצר את המגבלות המסוימות במהירות, באמצעות מספר שורות קוד פשוטות. חלק גדול מהקוד כבר עלה לגיטהאב, ואנבידיה תציע אותו גם כשירות.