エンジニアは「AI が言っていました」と説明しない習慣を身につけるべき

カテゴリ: 生成AI

記事投稿日: 2025年5月24日

（まだ）AI は責任をとらない

仕事で生成 AI のサービスについて語る機会が増えてきました。
当初から「生成 AI が◯◯と言った」「生成 AI に聞いたところ～」という説明は意味がない、という話をしてきました。
生成 AI は『何も責任を負わない』からです。

少し前に、説明用の動画を作りました。
生成 AI は「最先端」のツールかもしれませんが、道具としては『「文章の続き」を高確率で生成しているだけの機械』です。

▼ 「文章の続き」を作る AI・生成AI入門第1回【5分で理解シリーズ】

生成 AI が◯◯と言った、という説明はしないほうがいい、意味がないから、という説明は、しばらく経つと、忘れられることが分かってきました。
それだけ、生成 AI のことを信用し、生成 AI をよく使うようになってきた、ということなのかもしれません。

でも、どんなに賢くなってもそれは「新聞や雑誌で◯◯と言っていた」とか「検索エンジンで調べたところ～」と言っているのと大差ありません。

なにかの情報について語る時、話す人は、それについて責任を負う必要があります。
大げさな、と思うでしょうか。

情報は両刃の剣です。
便利な反面、時には判断を誤らせます。
人生や社会にとって、取り返しのつかないことをさせる材料になりかねません。
偽の情報を流布させれば、政治や戦争を動かせることは、大国の歴史を見れば明らかです。

私は単純に、どんなツールも使う人次第だと常に思っています。

「いろんな道具を出しても使うのは人間だからね」（大長編ドラえもん「のび太の宇宙小戦争」より）

￥528 (2025年5月24日 18:05 GMT +09:00 時点 - )

この言葉を私はよく引用しますし、しょっちゅう思い出します。
道具を使うのは人間で、その責任は常に人の側にあると思っているからです。

いろんな道具を出しても使うのは人間だからね（ドラえもん）

ドラえもんでは、のび太がよく、間違った道具の使い方をしてオチがつきます。
そのたびに、のび太は「ろくな道具を出さないから悪いんだ」と怒り、ドラえもんも「道具のせいにするな」と反撃します。
まったく、ドラえもんのいうことは正論です。

生成 AI は（まだ）「高確率で賢い答え」を言っているのに過ぎず、100% の保証は常にありません。
確かめるのは人間の責任です。道具を使う人間が、その結果を背負うというだけで、何も特別なことはありません。

生成 AI を包丁にたとえてみます。
それは食材を本当によく切れるように、手をかけて（プロントに注意して）、自分の手を切ったりしないよう注意深く（情報の引用元や内容を確認して）、使っているでしょうか。

よく手入れされた道具は、プロンプトの達人を見ているといつも圧倒されますが、驚くような成果を見せます。
逆に悪用すれば、道具は人を傷つけ、社会まで壊してしまいます。便利なものほど、そうなのです。
『マッチ1本、火事のもと』なのです（若い人はマッチなど知らないかも…？）。

簡単に使える分、その線引きを認識していなければ、やがては道具の理解をしていない、あの人は「危うい人」だと言われてしまいます。
まして、エンジニアや、技術にたずさわる人は、よくよく言動に注意しないといけません。

道具に慣れるほど、扱いは雑に、おろそかになりがちです。
が、エンジニアはそれではいけないと思います。