. しかし、線がぼやけていると、リスクが高まります

0

by • エレクトロニクス

Snapchatの「不気味な」AIの失態は、チャットボットが人ではないことを思い出させます. しかし、線がぼやけていると、リスクが高まります

最近のSnapchat事件では、会社はすべてを「一時的な停止」に陥れました。. 実際に何が起こったのかわからないかもしれません。これは、AI「Hallucinatng」のさらに別の例、またはサイバー攻撃の結果、または単なる運用エラーである可能性があります.

snapchat ai

アカウマイ、アオアール私のai、ново廊、чат-塔講演、陶芸. 私のaiдостопенвもうすまっているч長。.

私のaiможетпосоветоваびここ□еи最初olжитьрецепт慈善活動友え. 私のaiλвоимсобст循環→朗読.

賛成派≥-ботысискосст岐ためのこと見つけてください. пожалойста、помнит熱orÉ欲しい! 私のai ‑AI ‑AI ‑A ‑A ‑A ‑Aз¡¡. неделитесかな私のaiникакимисс眼用行き来.

хоツェの私の私のai豚のз廊。陶器、洗浄済みです. ч親o-овитьотзыв、するまみ. するまみ.

snapchat ai

著者

  1. ダスウィン・デ・シルバデータ分析と認知センターの副ディレクター、ラトローブ大学

開示声明

Daswin de Silvaは、この記事の恩恵を受ける会社または組織からの株式のために働いたり、相談したり、所有したり、資金を受け取ったりしておらず、アカデミックな任命を超えて関連する所属を開示していません.

パートナー

La Trobe Universityは、会話のメンバーとして資金提供を提供しますau.

人工知能駆動の（AI）チャットボットは、人間と機械を区別するのに苦労するかもしれないという点まで、設計によりますます人間のようになりつつあります。.

今週、Snapchatは私のAIチャットボットが不具合で、壁と天井のように見えるもののストーリーを投稿しました。. 当然、インターネットはChatGptを搭載したチャットボットが感覚を獲得したかどうかを疑問視し始めました.

AIリテラシーのクラッシュコースは、この混乱を鎮めたかもしれません. しかし、それを超えて、この事件は、AIチャットボットが人間に似ていることに近づくにつれて、彼らの摂取を管理することはより挑戦的になり、より重要になることを思い出させます。.

ルールベースからアダプティブチャットボットまで

ChatGptが昨年末に画面に破裂して以来、多くのデジタルプラットフォームがAIをサービスに統合しています. この記事をMicrosoft Wordでドラフトしたとしても、ソフトウェアの予測AI機能は、可能な文の完了を示唆しています.

生成AIとして知られるこの比較的新しいタイプのAIは、正確で人間のような、一見意味のある新しいコンテンツを生成する能力により、その前任者と区別されます.

AIイメージジェネレーターやチャットボットなどの生成AIツールは、大規模な言語モデル（LLMS）上に構築されています. これらの計算モデルは、数十億の単語、文、段落の間の関連性を分析して、特定のテキストで次に来るべきことを予測する. Openaiの共同設立者であるIlya Sutskeverが言うように、LLMは

[…]本当に、本当に良い次の言葉の予測因子.

高度なLLMは、人間のフィードバックも微調整されています. 多くの場合、数え切れないほどの安価な人間の労働を通して提供されるこのトレーニングは、AIチャットボットが一見人間のような会話をすることができる理由です.

OpenaiのChatGptはまだフラッグシップ生成AIモデルです. そのリリースは、オンラインカスタマーサービスで使用されているものなど、よりシンプルな「ルールベースの」チャットボットからの大きな飛躍を示しました.

話す人間のようなチャットボット に で それらは、より高いレベルのエンゲージメントとリンクしています. ある研究では、チャットボットの擬人化がエンゲージメントの増加につながることがわかりました。. ストレスを受けた参加者が関与する別の研究では、人間のようなチャットボットが有能であると認識される可能性が高いため、参加者のストレスを軽減する可能性が高くなります。.

これらのチャットボットは、小売、教育、職場、ヘルスケアの設定など、さまざまな設定で組織の目標を達成するのにも効果的です.

Googleは生成AIを使用して、人生のアドバイスを提供したり、親密な質問に答えるなど、さまざまな個人的および専門的なタスクを持つ人々を支援する「パーソナルライフコーチ」を構築しています。.

これは、Google独自のAI安全専門家が、ユーザーがAIに依存しすぎて成長し、「健康と幸福の低下」と「代理店の損失」を経験していると警告しているにもかかわらずです。.

友人または敵 – または単なるボット?

最近のSnapchat事件では、会社はすべてを「一時的な停止」に陥れました。. 実際に何が起こったのかわからないかもしれません。これは、AI「Hallucinatng」のさらに別の例、またはサイバー攻撃の結果、または単なる運用エラーである可能性があります.

いずれにせよ、一部のユーザーがチャットボットが感覚を達成したと想定した速度は、私たちがAIの前例のない擬人化を見ていることを示唆しています. 開発者からの透明性の欠如と、一般の人々の間での基本的な理解の欠如によって悪化します.

人間のようなチャットボットの明らかな真正性によって個人がどのように誤解されるかを過小評価すべきではありません.

今年の初め、ベルギーの男性の自殺は、気候の不作為と惑星の将来についてのチャットボットとの会話に起因していました. 別の例では、テッサという名前のチャットボットが摂食障害ヘルプラインを通じて人々に有害なアドバイスを提供していることがわかりました.

チャットボットは、私たちの間でより脆弱な人、特に心理的状態のある人にとって特に有害かもしれません.

新しい不気味な谷?

あなたは「不気味な谷」効果を聞いたことがあるかもしれません. それはあなたがヒューマノイドロボットを見たときにあなたが得るその不安な感覚を指します ほとんど 人間に見えますが、そのわずかな欠陥がそれを与え、それは最終的に不気味になります.

同様の経験が、人間のようなチャットボットとのやり取りに現れているようです. わずかなブリップは、首の後ろの毛を上げることができます.

解決策の1つは、人間のエッジを失い、簡単で客観的で事実上のチャットボットに戻ることです. しかし、これはエンゲージメントとイノベーションを犠牲にして来るでしょう.

教育と透明性が重要です

高度なAIチャットボットの開発者でさえ、彼らがどのように機能するかを説明することはできません. しかし、いくつかの点で（および商業エンティティに関する限り）利点はリスクを上回ります.

生成AIは、生産性、ヘルスケア、教育、さらには社会的公平性などの高額なアイテムにおけるその有用性を実証しています. 消えることはまずありません. それで、どうすればそれを私たちのために機能させるのですか?

2018年以来、政府や組織がAIのリスクに対処するための大きな推進力がありました. しかし、他のどの課題よりも「人間のような」テクノロジーに責任ある基準と規制を適用することには、多くの課題があります.

現在、オーストラリアの企業がチャットボットの使用を開示するための法的要件はありません. 米国では、カリフォルニアはこれを必要とする「ボット法案」を導入しましたが、法律専門家はその中に穴を開けています。この記事を書いている時点では、法案はまだ施行されていません。.

さらに、ChatGptや同様のチャットボットは「研究プレビュー」として公開されています. これは、彼らがしばしば彼らのプロトタイプの性質に複数の開示があることを意味し、責任ある使用の責任はユーザーに落ちます.

AIに関する世界初の包括的な規制である欧州連合のAI法は、過剰な規制がイノベーションを阻止できるため、中程度の規制と教育を前進する道として特定しました。. デジタルリテラシーと同様に、AIリテラシーは学校、大学、組織で義務付けられるべきであり、一般に無料でアクセスできるようにする必要があります.

  • 人工知能（AI）
  • テクノロジー
  • 不気味な谷
  • snapchat
  • チャットボット
  • AIモデル
  • 大きな言語モデル
  • chatgpt
  • 人工知能倫理

SnapchatのAIチャットボットを使用していますか? これがあなたから引き出されているデータです

Jada-Jones

4月に、SNAPはAIを搭載したチャットボット、私のAI、SnapChatユーザーが利用できるようにしました. 同社は、1億5,000万人以上のユーザーがチャットボットと話をしたと言います. Snapは、そのAIチャットボットにはChatGptよりも多くのガードレールが装備されていると言います。.

. しかし、ボットとのいくつかの実験的なチャットで、ユーザーはSnapchatのボットが未成年の物質使用と性的活動に従事する方法を説明することを発見しました.

Snapchattersが最初に私のAIと実験的に会話を始めたとき、多くの人がチャットボットの場所へのアクセスに興味がありました. 私のAIがユーザーの場所があるかどうかを尋ねられたとき、ジオロケーションデータへのアクセスを容易に拒否するでしょう.

しかし、ユーザーが自分の地域でレストランの推奨を求めた場合、私のAIはそれらを提供することができ、ボットがSnapchattersの場所にアクセスできることを証明することができます. 人々は私のAIに関心があることを表現するためにTwitterに行き、ボットがアクセスできるユーザーデータに興味を持ち始めました.

だから、私のAIはどのデータを収集し、Snapはそれで何をしますか?

位置

Snapchatがあなたの場所にアクセスできるようにすると、私のAIはあなたの場所にアクセスできます. SNAPは、私のAIがあなたから新しい位置データを収集せず、Snapchatに提供したデータからのみ引き出すと言います.

一部のユーザーは、友達からあなたの場所を隠し、スナップマップからあなたを削除できるGhost Modeと呼ばれるSnapchat機能を有効にします. ただし、ゴーストモードは私のAIがあなたの場所にアクセスできないことを保証しません. SNAPによると、ゴーストモードが点灯していても、snapchatの場所追跡許可を許可した場合、私のAIはあなたの場所にアクセスする可能性があると言います.

会話

SNAPは、手動で削除するまでAIとの会話を保存しますが、AIとの会話データがSnapchatサーバーから削除されるまで最大30日かかる場合があります. SNAPは私のAIとの会話を使用してAIモデルを訓練し、パーソナライズされた広告であなたをよりよくターゲットにします.

Snapchatのプライバシーポリシーでは、すべてのスナップがSnapchatサーバーから削除されていると述べています。. しかし、SNAPは、私のAIに送信されたチャットがこのガイドラインに従わず、SnapChatを削除するように要求した場合にのみ削除されることを明確に区別します。. SNAPは私のAIに送信するオーディオまたは写真を保持し、自分でそれを行う場合にのみ削除できると想定する必要があります.