前回は、AIがどんな場所で使われているのかを見てきました。AIは、身近なアプリから電車、病院、防災、芸術の世界まで、さまざまなところで人間の活動を支えています。

でも同時に、「間違えたらどうなるの？」「本当に安全なの？」という心配も出てきますよね。今回は、AIを安心して使うために大切なことを考えてみましょう。

AIは間違えることがある

AIはとてもかしこく見えますが、実は「間違える」ことがあります。

たとえば、写真に写った人の顔を見分けるAIが、似た顔を同じ人と勘ちがいしてしまうことがあります。あるいは、外国語を翻訳するAIが、言葉のニュアンスを間違えて伝えてしまうこともあります。

AIは過去のデータから学んでいちばんふさわしいと考えられる答えをつくるしくみを使っていますが、与えたデータが偏っていたり、足りなかったりすると、望むものとは異なる答えを出してしまうのです。加えて、判断の理由がわからない、人間に見えない要素で判断することもあります。

だからこそ、AIを使うときには「AIがいつも正しいとはかぎらない」と知っておくことが大切です。人間がAIの結果をよく見て、必要なら確かめたり直したりする。こうした「人間が見守るしくみ」のことを、専門的には ヒューマン・イン・ザ・ループ（Human in the Loop） といいます。

AIに全てをまかせるのではなく、人間が最後に判断する。これが安全に使うための第一歩なのです。

AIが使われる「大事な場所」では

AIは今、医療や交通など、人間の命や暮らしに関わる大切な場所でも使われ始めています。

たとえば自動車では、AIが周囲の情報を分析して、ブレーキを自動でかける機能があります。病院では、AIがレントゲン画像を分析して、病気を見つける手助けをします。

こうした「AIの判断にあやまりが許されない場所」でAIを使うときには、最後には人間が関わるようにすることが一般的です。このため、開発する人たちはたくさんのテストをくり返します。もしAIが間違えたとしても、人間がすぐ気づけるように設計します。

また、AIがどうやって答えを出したのかを説明できるようにする「説明可能なAI」という研究も進んでいます。AIはどんどん進化していますが、人間の安全を守るためには、間違いをなくすだけでなく、信頼できるしくみをつくることが必要なのです。

　考えてみよう！

自動車、病院、電車、ゲームなど、AIが使われている場面を三つあげてみよう。

それぞれ「AIが間違えたらどうなるか」を話し合ってみよう。

安全に使うためにできること

AIを安全に使うために、私たち一人一人にもできることがあります。

まずは、AIの「得意なこと」と「苦手なこと」を知ることです。AIは計算やパターンを見つけるのは得意ですが、人の気持ちや話の流れを理解するのは苦手です。だから、SNSなどでAIがつくった画像や文章を見たときに、「本当に正しいのかな？」と一度立ち止まることが大切です。

次に、「AIを使って何をしたいのか」をはっきりさせること。目的をもたずに使うと、ただ便利さに流されてしまいます。でも、「友だちと楽しく学びたい」「困っている人の役に立ちたい」といった思いがあれば、AIの使い方も変わります。

AIは道具。どう使うかを決めるのは、いつも人間だと考えておくべきです。

AIをつくる人間の責任

AIをつくる研究者や技術者にも、大きな責任があります。AIが人間や社会にどんな影響を与えるかを考えながらAIを設計することが求められます。

たとえば、顔の画像を集めてAIに学習させてつくるときに、特定の民族や人種、性別の人ばかりのデータを使うと、それ以外の人に対する判断が正しくできないAIになってしまいます。だから、開発の段階からいろいろな人たちが関わり、さまざまな視点で確認することが大切なのです。

こうした考え方は、人間とAIが安心して共に生きるための土台になります。

　やってみよう！

「AIが間違えるとどんなことが起こる？」をテーマに、友だちと調べてみよう。

ニュースや本の中にも、ヒントがあるよ。

学び方にもつながる「安全」

AI時代に大切なのは、「正しい使い方」を覚えるだけではありません。AIと向き合いながら、「上手な使い方」を学ぶことです。

たとえば、AIが出した答えをうのみにせず、自分で調べたり、友だちと意見を出し合ったりする。そうした「問いを立てる」「対話する」「確かめる」という学び方が、AI時代を生きる力になります。

AIが進歩しても、人間の学びがなくなることはありません。むしろ、英語、数学、プログラミング、歴史や古文など、いろいろな知識があるほどAIが導いた答えを深く理解できます。AIが翻訳をしてくれる時代でも、言葉の背景や文化を知っている人間だからこそ、相手の気持ちを理解し合い、本当に伝わる対話ができるのです。

おわりに：安全をつくるのは人間

AIの安全を保証するのは、AI自身ではなく、それを見守る人間です。

AIが正しく動くように整える人、間違いを見つけて直す人、使い方のルールを考える人。たくさんの人たちの知恵と協力があって、初めてAIは「安全に」使えるようになります。

AIはとても便利な道具ですが、だからこそ「考えずに使う」ことがいちばん危険です。AIの出した答えをそのまま信じるのではなく、「なぜそうなったのか」「本当に正しいのか」と確かめること。

何においてもそうですが、AIを使いこなすにも、いつも自分の頭で考え続けることが大切です。AIに頼るのではなく、AIの出した結果を手がかりに考える人間になっていくこと。それが、これからの時代をつくる第一歩なのです。

もっと知りたい人におすすめ！ 『AIの時代を生きる：未来をデザインする創造力と共感力』（岩波ジュニア新書） 『AIの世界へようこそ：未来を変えるあなたへ』（Gakken）