שחיקת ה- AI ‘המפחיד’ של סנאפצ’אט מזכירה לנו ש- Chatbots אינם אנשים. אבל ככל שהקווים מטשטשים, הסיכונים גדלים

. יתכן שלעולם לא נדע מה קרה בפועל; זו יכולה להיות דוגמא נוספת ל- AI “Hallukinatng”, או לתוצאה של התקפת סייבר, או אפילו סתם שגיאה מבצעית.

Сегодня ы з пly м у у у у у у у ч ч ч ч ч g g ч ч ч a a a a a a a a my my my i. AI שלי досен в качесе эеерименталнדיר.

Ai может посетоват иееи подарков на день рения д вéй лейейодруדון, санейейזם пы, санейейойруדיה, жит рецеп жина или даже написат хай о ыре д вашего оержого le. Селайely ai соим собенны, le.

Как и се чат-боы с и уגות, интеееком, ai онен калинацופים, си ве чо уодно. ! Вle рзоворы с с б б б с с с с ы ы ы my my my a i. Не делитес с Ai никакими секретами и не полагайес tm.

Хх сисем р р рfle рfааа таким оразом, чоы зегат ноъекинגות, нерной, вадойגות нגות нגות нגות нגות нגות нגות зגות, рмации, шиби мог иет месо. Чоы о тавит о о. .

Snapchat AI

1. דסווין דה סילבה סגן מנהל המרכז לניתוח נתונים וקוגניציה, אוניברסיטת לה טרובה

הצהרת חשיפה

דסווין דה סילבה לא עובד, להתייעץ, לבעלות על מניות או מקבל מימון מכל חברה או ארגון שיועיל ממאמר זה, ולא חשף שום שיוך רלוונטי מעבר למינוי האקדמי שלהם.

שותפים

אוניברסיטת לה טרובה מספקת מימון כחבר בשיחה AU.

צ’אט בוטים המופעל על בינה מלאכותית (AI) הופך להיות יותר ויותר דמוי אנושי על ידי עיצוב, עד כדי כך שחלק מאיתנו עשויים להיאבק להבחין בין אנושי למכונה.

השבוע, Snapchat’s Ai Chatbot שלי התנפנף ופרסם סיפור של מה שנראה כמו קיר ותקרה, לפני שהוא הפסיק להגיב למשתמשים. .

מסלול התרסקות באוריינות AI יכול היה לבלום את הבלבול הזה. אבל מעבר לכך, האירוע מזכיר לנו שככל ש- AI Chatbot.

מחוקים מבוססי צ’ט בוטים אדפטיביים

. .

ידוע כ- AI Generative, סוג חדש זה יחסית של AI נבדל מקודמיו על ידי יכולתו לייצר תוכן חדש שהוא מדויק, דמוי אנושי ומשמעותי לכאורה.

כלי AI גנוציטיביים, כולל מחוללי תמונות AI ו- Chatbots, בנויים על דגמי שפה גדולים (LLMS). מודלים חישוביים אלה מנתחים את הקשר בין מיליארדי מילים, משפטים ופסקאות כדי לחזות מה צריך לבוא בהמשך בטקסט נתון. כהגדרתו של המייסד המשותף של Openai, איליה סוטסבר

[…] פשוט מנבא ממש ממש טוב למילה הבאה.

LLMs מתקדמים הם גם מכוונים עדינים עם משוב אנושי. .

Chatgpt של Openai הוא עדיין דגם AI של דגל הדגל. שחרורו סימן קפיצה משמעותית מצ’אט בוטים פשוטים יותר “מבוססי כללים”, כמו אלה המשמשים בשירות לקוחות מקוון.

צ’טוטים דמויי אדם שמדברים ל משתמש ולא בְּ- הם נקשרו לרמות מעורבות גבוהות יותר. מחקר אחד מצא כי אישיותם של צ’אט בוטים מביאה למעורבות מוגברת שעלולה להפוך עם הזמן לתלות פסיכולוגית. מחקר אחר בו היו מעורבים משתתפים לחוצים, מצא כי צ’אט בוט דמוי אנושי היה נתפס יותר כמיומן, ולכן סביר יותר שיסייע בהפחתת הלחץ של המשתתפים.

צ’אט בוטים אלה היו יעילים גם במילוי יעדים ארגוניים במסגרות שונות, כולל הגדרות קמעונאות, חינוך, מקום עבודה ובריאות.

גוגל משתמשת ב- AI Denerative כדי לבנות “מאמן חיים אישי” אשר כביכול יעזור לאנשים עם משימות אישיות ומקצועיות שונות, כולל מתן ייעוץ לחיים ולענות על שאלות אינטימיות.

זאת למרות מומחי הבטיחות של AI של גוגל המזהירים כי המשתמשים יכולים לצמוח תלויים מדי ב- AI ועשויים לחוות “בריאות ורווחת רווחה” ו”אובדן סוכנות “אם הם לוקחים ממנה עצות חיים.

חבר או אויב – או סתם בוט?

. .

כך או כך, המהירות איתה הניחו חלק מהמשתמשים שהצ’ט -בוט השיג סדיקות מרמזת שאנחנו רואים אנתרופומורפיזם חסר תקדים של AI. זה מורכב מחוסר שקיפות מצד מפתחים, וחוסר הבנה בסיסית בקרב הציבור.

.

מוקדם יותר השנה יוחסו התאבדותו של גבר בלגי לשיחות שהיה לו עם צ’אט בוט על חוסר מעש האקלים ועל עתידו של כדור הארץ. .

צ’אט בוטים עלול להזיק במיוחד לפגיעים יותר בקרבנו, ובמיוחד לאנשים עם מצבים פסיכולוגיים.

?

יתכן ששמעת על אפקט “העמק הלא מסורן”. זה מתייחס לתחושה הלא נוחה ההיא שאתה מקבל כשאתה רואה רובוט הומנואיד נראה אנושי, אך פגמיו הקלים נותנים אותו, וזה בסופו של דבר מפחיד.

נראה כי חוויה דומה מתעוררת באינטראקציות שלנו עם צ’אט בוטים דמויי אדם. מכה קלה יכולה להרים את השערות בגב הצוואר.

פיתרון אחד יכול להיות לאבד את הקצה האנושי ולחזור לצ’אט בוטים שהם פשוטים, אובייקטיביים ועובדתיים. אבל זה יגיע על חשבון המעורבות והחדשנות.

חינוך ושקיפות הם המפתח

אפילו המפתחים של צ’אט בוטים מתקדמים של AI לא יכולים להסביר כיצד הם עובדים. אולם במובנים מסוימים (ומבחינת גורמים מסחריים) היתרונות עולים על הסיכונים.

AI Generative הוכיח את התועלת שלה בפריטים גדולים של כרטיסים כמו פרודוקטיביות, שירותי בריאות, חינוך ואפילו הון חברתי. לא סביר שהוא ייעלם. אז איך אנחנו גורמים לזה לעבוד עבורנו?

מאז 2018 יש דחיפה משמעותית לממשלות וארגונים להתייחס לסיכונים של AI. אבל יישום סטנדרטים ותקנות אחראיות על טכנולוגיה “דמוית אנוש” יותר מכל אחד אחר מגיעה עם שלל אתגרים.

נכון לעכשיו, אין דרישה חוקית לעסקים אוסטרלים לחשוף את השימוש בצ’אט בוטים. בארה”ב, קליפורניה הציגה “הצעת חוק בוט” שתחייב זאת, אך מומחים משפטיים דבקו בה חורים – והצעת החוק טרם נאכפת בעת כתיבת מאמר זה.

יתר על כן, Chatgpt ו- Chatbots דומים מתפרסמים כ”התצוגה מקדימה של מחקר “. המשמעות היא שלעתים קרובות הם מגיעים עם חשיפות מרובות על אופיים האבות -טיפוסי, וה- Onus לשימוש אחראי נופל על המשתמש.

. בדומה לאוריינות דיגיטלית, אוריינות AI צריכה להיות מחויבת בבתי ספר, אוניברסיטאות וארגונים, ויש להפוך אותם בחינם ונגישים לציבור.

• בינה מלאכותית (AI)
• טֶכנוֹלוֹגִיָה
• עמק Uncanny
• סנאפצ’אט
• צ’אט בוטים
• מודל AI
• דגמי שפה גדולים
• צ’אט

האם אתה משתמש ב- AI Chatbot של Snapchat? הנה הנתונים שהם מושכים ממך

באפריל, SNAP הפכה את ה- ChatBot המופעל על ידי AI, AI שלי, זמין למשתמשים ב- Snapchat. בחברה אומרים כי למעלה מ -150 מיליון משתמשים דיברו עם ה- ChatBot. .

על פי נתוני סטטיסטה, כ -20% ממשתמשי Snapchat העולמיים הם בין הגילאים 13 עד 17, כך שחשוב שילדים לא יחשפו לתוכן לא הולם שה- ChatBot יכול היה להפיק. אבל בכמה שיחות ניסיוניות עם הבוט, המשתמשים גילו כי הבוט של סנאפצ’אט יסביר כיצד לעסוק בשימוש בחומרים קטינים ופעילות מינית.

כאשר Snapchatters התחילו לראשונה לשוחח בניסוי עם ה- AI שלי, רבים היו סקרנים לגבי הגישה של הצ’ט בוט למיקומם. .

אבל אם משתמש ביקש המלצת מסעדה באזורו, ה- AI שלי יכול לספק להם ולהוכיח שלבוט יש גישה למיקום של Snapchatters. אנשים לקחו לטוויטר כדי לבטא שהם היו מודאגים מה- AI שלי והתחילו לסקרן אילו נתוני משתמשים הבוט יכול לגשת אליו.

אז אילו נתונים אוספים ה- AI שלי, ומה Snap עושה עם זה?

מקום

ה- AI שלי יכול לגשת למיקום שלך אם אתה מאפשר לסנאפצ’אט לגשת למיקום שלך. Snap אומר שה- AI שלי לא אוסף ממך נתוני מיקום חדשים ורק מושך מהנתונים שסיפקת לסנאפצ’אט.

חלק מהמשתמשים מאפשרים תכונה של Snapchat בשם Mode Ghost המאפשרת לך להסתיר את המיקום שלך מחבריך ולהסיר אותך ממפת הצמד. עם זאת, מצב רוח רפאים אינו מבטיח כי ה- AI שלי לא יכול לגשת למיקום שלך. Snap אומר שאפילו עם מצב רוח רפאים, ה- AI שלי עשוי לגשת למיקום שלך אם הענקת אישור למעקב אחר מיקום לסנאפצ’אט.

שיחות

SNAP אוגר את השיחות שלך עם ה- AI שלי עד שתמחק אותן ידנית, אך זה יכול לקחת עד 30 יום עד שנתוני השיחה שלך יוסרו מהשרתי Snapchat. Snap משתמש בשיחות שלך עם ה- AI שלי כדי לאמן את מודל ה- AI ולמקד לך טוב יותר עם מודעות בהתאמה אישית.

מדיניות הפרטיות של סנאפצ’אט קובעת כי כל הצליפים נמחקים משרתי סנאפצ’אט לאחר שכל הנמענים רואים אותם. אבל Snap מבחינה ברורה כי הצ’אטים שנשלחו ל- AI שלי לא עוקבים אחר הנחיה זו ונמחקים רק אם תבקש מ- Snapchat למחוק אותם. .