Pickleなど電話AI代行、利用者は楽でも受ける側は負担増か

電話AIは受ける側に何が負担なのか

批判的な立場のパネルは、成功事例だけが目立つのは「生存者バイアス」だと指摘した。利用者は楽になっても、店や病院が同じ効率を得るとは限らない。たとえば、AIが午後7時を希望し、店員が「その時間は満席で7時30分なら可能」と答えたとする。AIが利用者の都合を把握していなければ、同じ説明の繰り返しや確認待ちが生じる。団体予約や駐車場の案内が加われば、さらに複雑になる。

自動応対を導入しにくい小さな飲食店や医院ほど、負担が大きくなりやすいとの見方も出た。

電話AIは自分がAIだと名乗るべきか

倫理の専門家は、AIだと明かさない通話は相手の選択権を侵害すると主張した。AIが人間らしく話すほど、相手は気づきにくくなる。パネルの多くは、通話の冒頭でAIだと告げ、相手が望まなければ通話を終えるか本人につなぐ手順が必要だとした。この「ヒューマンフォールバック」は、AIが処理できない場合に利用者本人へ通話を渡す仕組みを指す。

技術面では、予約確定前に利用者の意図を確認し、通話中に確認した条件を見直し、最後に利用者が承認する3段階の方式が提案された。

意見は割れたままだ。技術が信頼できれば負担は自然に減るという楽観論と、相手の同意なくAIが電話をかけること自体に社会的な基準が要るという批判論が対立している。