日本でも3月から次世代通信規格5Gがスタートし、IoT（モノのインターネット）など、イノベーションの社会実装が大きく進もうとしている。その目玉のひとつが車の自動運転であり、今年は日本で「自動運転元年」と言われる。ひとたびクルマに乗れば、旅先まで勝手に連れて行ってくれる夢のような時代の到来も期待できる反面、これから過渡期を迎えるからこそ、思わぬリスクが潜んでいる。（アゴラ編集長 新田哲史）
Jaguar MENA／flickr
5段階のうち「レベル3」に進化
まず、いまの自動運転はどの程度進化しているのか。米国の非営利団体「米国自動車技術者協会」（SAE）は、人間と機械の運転関与の度合いに応じて、5段階にレベル分けしており（1）、日本の自動運転の基準も概ね同様だ(2)。
「レベル1」は、自動ブレーキや車線からはみ出さない様にするといった単独の機能だけ補助するもので、すでにお持ちの自家用車に搭載されている人も多いだろう。次に「レベル1」の機能を複数組み合わせ、高速道路での自動運転モードといった限定したシーンだけの高機能化は「レベル2」にあたる。ここまでは人間のドライバーが主体的な責任を負う。
そして、いよいよ機械が本格的に責任を負うのが「レベル3」以降だ。「レベル3」では、高速道など限られたエリアで、加速・操舵・制動を全てシステムが行い、システムが要請したときのみドライバーが対応する状態をさす。
「レベル4」は、限定されたエリアで加速・操舵・制動を全てシステムが行い、人間は関与せず、遠隔操作など高度に自動化する。最終到達点の「レベル5」はすべてのエリアで人間が関与しない運転となる。
日本は現在「レベル3」に踏み出したところで、昨年12月の改正道交法施行により解禁された。これに伴い、自動車各社の動きも活発化し、年が明けた2020年がまさに日本の「自動運転元年」とされる。その中で、ホンダはいち早く「レベル3」に対応した高級セダンを投入すると昨年から報じられている（3）。
ホンダの自動運転デモ（公式YouTubeより）
また、東京オリンピック・パラリンピックは自動運転にとっても晴れ舞台だ。残念ながら大会は1年延期されてしまったが、選手村では、トヨタ自動車が最大20人乗りの自動運転車「eパレット」を投入する計画になっている（4）。
選手村で走る予定の「eパレット」（トヨタ自動車ニュースリリースより）
レベル3が人間に最も困難 !?
目下、新型コロナウイルスの世界的感染拡大で、自動車メーカーも生産体制の見直しに入ったことで開発のスピードを鈍らせる可能性もあるが、GoogleなどIT企業の新規参入組を交えた激しい開発競争と技術革新を重ねていけば、2020年代のうちには「レベル5」到達も視野に入ってきそうだ。
自動運転の社会実装により、適切な速度管理などによって渋滞の緩和・解消も期待され、いまも3000人以上が亡くなる交通事故も大きく減ることも期待できる。
そうなると、交通安全が劇的に改善されるように一見思えるが、自動運転社会のリスクを研究しているAIG総合研究所の藤居学・主任研究員は、「人間がもっとも困難なタスクを背負う側面があるのがレベル3」という見方を示し、2つのリスクがあると指摘する。
まず藤居氏は、「人間の運転が下手になるのでは」という懸念を示す。普段運転に慣れているからこそできることも、運転を普段しなくなってしまえば、できなくなってしまうかもしれない。「レベル3」では、先述した様に一定条件下で、ハンドル、ペダル、ブレーキを機械が動かすことになるが、裏を返せば、人間が運転の経験を積みづらくなる。
その一方で、道路工事などで狭い脇道に入らなければならないなど、運転が難しいところで機械がギブアップすると、「運転が、いきなり人間の手に渡って慌てるようなことが起こってしまう」（藤居氏）。いわば“ペーパードライバー”と化してしまった人間が、機械が対処できない運転環境にうまく対応できるかどうか不安は膨らんでしまうというわけだ。
自動運転にも「正常化バイアス」の落とし穴
もうひとつ、藤居氏が挙げるリスクが、前回の災害避難の記事でも話題になった正常化バイアスの問題だ。正常化バイアスとは災害に直面したときでも「自分は大丈夫」と思い込むことを言うが、「レベル3」の自動運転でそれと関連するキーワードの一つが「ミニマム・リスク・マニューバー」（minimum risk maneuver：MRM）だ。
MRMは、自動運転が外れる状況で、警報音を出すなどして運転者に手動運転への切り替えを促したにも関わらず運転者が反応しない場合、リスクができるだけ小さくするような自動操作を行う仕組みだ。速度を落として、路肩に停車するといった動作が想定されている。
ところが、そこに盲点が生まれるから人間心理はややこしい。普段の自動運転がスムーズで、仮に危険な状況になっても機械がそれなりに対応してくれると思えば、人間はついつい油断しがちだ。
藤居氏は「有能な部下を持つ上司がいつしか部下に仕事をお任せしてしまうように、人間はいったん安心してしまうと注意をしなくなるものだ」と例え話を出した上で、「ほんとに危ない時のアラートが出たときに、十分な注意をはらえずに反応が遅れてしまうような危険はありうる」と予測する。
また中長期の視点で見ればレベル3から4にかけての移行期は、世の中の道路には人間の運転する車と、自動運転機能を持った車が混在する状態になる。人間の運転者が、機械が予測しない動きをして事故をするリスクもあるだろう。
リスク適切に勘案した世論形成を
自動運転車による死亡事故はこれまでアメリカで3件発生している。このうち、2018年3月に発生したテスラ・モーターズの自動運転車が中央分離帯に衝突して運転手が死亡した事故では、テスラ側は「運転手は事故発生前の走行中、ハンドルを握るよう促す視覚的な警告を数回、聴覚的な警告を1回受けていたが、衝突までの6秒間、ハンドルに手が触れたことは感知されなかった」との見解を示している（5）。正常化バイアスによる油断があった可能性も考えられる。
また、この事故の半月前には、米ウーバーテクノロジーズの自動運転車が、夜道で女性をはねて死亡させる事故も発生し、世界で初めて自動運転車による歩行者の死亡事故として世界的に注目を集めた。
ウーバーの事故車を調べる米運輸安全委員会スタッフ（同委員会公式flickr）
この事故では、運転席でシステムの監視役をしていたオペレーターが、自分のスマートフォンでテレビ番組を観ていたことがのちに判明。米高速道路安全保険協会は事故から5か月後に、事故車（ボルボ製）の安全システム機能を解除していなければ回避できていた可能性を指摘した(6)。
しかし、さらに1年以上経ってから、米運輸安全委員会が、女性が横断歩道のないところを横切ってきたためにシステムが歩行者だと認識できなかったなど、システムが交通規則を無視する歩行者を想定していなかった、とも報告している（7）。
いずれにせよ、機械と人、相応の問題があったことがうかがえる。藤居氏は「ウーバーの事故は運用の問題もあったように見えるが、報道では、仮にそれが例外的な事象であった場合でもそれが殊更に強調されがちで、結果としてテクノロジーの進歩を阻害する世論ができてしまうこともある」との懸念を示す。
その上で、「自動運転の時代になってもリスクに対する適切なリテラシーを持ってよりよい社会をつくるようにすべきではないか」と提言する。今後、自動運転を含めたAI（人工知能）の進化は、これまでの機械化によるイノベーションと異なり、人間の知的領域に及んでくる。これからは、新しいリスクが生まれる可能性を想定し、“正しく怖れ”ながらテクノロジーの社会実装に前向きでいたいものだ。
＜出典＞
（1）国土交通省『自動運転を巡る動き』
（2）公益社団法人 自動車技術会『自動車用運転自動化システムのレベル分類及び定義』
（3）時事通信2019年12月16日「ホンダ、日本初「レベル３」 来夏、高速渋滞時に自動化」
（4）トヨタ自動車ニュースリリース（2019年8月23日）
（5）AFP通信2018年4月1日「テスラ死亡事故「オートパイロット作動中」 最後の6秒 手放し運転」
（6）ブルームバーグ2018年8月7日「ウーバー自動運転車による死亡事故、回避できていた可能性」
（7）AFP通信2019年11月6日「ウーバーの自動運転車事故、交通違反の歩行者を認識せず」
