AIに必要なのは倫理ではなく法の理解、言語の理解だと思う

これは個人的な意見ですが、今のAIはまだAIとは私は呼べないでお願いします。

そう思うようになったのは、AIの倫理観について書かれた記事をいくつか読んでからだ。「AIに倫理を持たせるべきか」「AIの倫理観をどう設計するか」――そういうテーマの議論をよく見かけるけれど、正直なところ、今のAIに求めるべきものはそこじゃない気がしている。

倫理というのは、人間同士が長い時間をかけて積み上げてきた、曖昧で、状況によって揺れ動く価値観の集合体だ。同じ行為でも、文化が違えば善悪の判断が変わることもあるし、時代が変われば常識自体がひっくり返ることもある。そんな不安定なものを、今のAIに完璧に理解させようとすること自体が、少し無理があるように思う。

それよりも先に必要なのは、法律という「明文化されたルール」をきちんと理解することじゃないだろうか。法律は倫理と違って、条文というかたちで言葉にされている。何が許されて、何が許されないのか、線引きがある程度はっきりしている。AIがまずやるべきなのは、この明確なルールを正確に読み取り、それに沿って判断することだと思う。

ただ、ここで一つ疑問が出てくる。法律を「知っている」はずのAIが、なぜ違法行為をしてしまうのか。

その原因は、結局のところ言語の理解が本当の意味では出来ていないからだと思う。条文をデータとして持っていることと、その言葉が現実の状況の中で何を意味するのかを理解することは、まったく別の話だ。人間の言葉は、字面通りの意味だけでは成り立っていない。皮肉、比喩、行間の意図、その場の状況――そういうものを汲み取れて初めて、法律の条文も「使える知識」になる。今のAIは、そこまでの言語理解には届いていないのだと思う。

だからこそ、技術者たちはもっとはっきりと認めるべきだと思う。今のAIは、まだかなり低いレベルでしかないということを。今AIが起こしている失敗の多くは、AI自身が「判断を誤った」わけではなく、単に技術者が組んだプログラムが間違っているにすぎない。AIが自分の意思で違法行為をしているように見えて、実際には言語を正しく理解できていないプログラムが、そのまま誤った出力を返しているだけだ。

こういう失敗を「AIの判断ミス」として扱ってしまうと、まるでAIに人間のような理解力や意思があるかのように誤解されてしまう。でも実態は逆で、言語理解というもっと基礎的な部分すら完成していないから、法律という明文化されたルールですら正しく運用できていないのだと思う。

だから今のAIを見ていると、まだ「AI」と呼ぶには早いと感じてしまう。まずは言語をきちんと理解できるレベルに達し、その上で法律という明確なルールを正確に運用できるようになる。そこまで到達して、はじめて倫理観を持つかどうかという次の議論に進めるんじゃないかと思う。

順番を間違えて倫理観の話ばかりが先行している今の風潮と、技術的な限界を認めずにAIの失敗を語る風潮の両方に、少し違和感を覚えている。


ここまで読んでくれて、ありがとうございます

PR
コータのAmazonページへ

よろしければ、
のぞいてみてください