自動化した機械操作に対する人間の信頼推定

 人工知能技術やセンサ精度向上により自動化システムが普及しています.自動化システムは労働人口減少への解決だけでなく,運転や労働においても人間の負担を軽減する支援が期待されています.その例として,航空機や自動運転車が挙げられますが,人々は自動化システムを完全に信頼できるでしょうか? 本研究では,人間の信頼が自動化システムとの操作にどのような影響を及ぼすのかを研究しています.

 従来の信頼を推定する手法では,アンケートを用いていましたが,本研究では以下のような実験を作成して人間の自動化システムに対する不信を推定します.実験は円軌道を描くオブジェクトを追従するシンプルなもので,操作するオブジェクトを自動化による操作を人間による操作に分割します.このとき,自動化への人間の操作が不信となります.

 操作対象における自動化の制御において,適切に動作する自動化と,不適切に動作する自動化を設計しました.これらの自動化を切り替えることにより人間の応答を調査します.結果として,人間の不信を確認することができました.人間は適切に動作する自動化には信頼を示していたものの,不適切に動作した後の自動化に対して,介入操作を行っていたため,自動化システムへ不信を抱いていたと言えます.

  • ブックマーク