AIは「名乗れ」と言われ始めた

前回のコラムで、Codexについて「PCの前にもう一人作業者が座っている感覚に近い」と書いた。

ブラウザを開き、画面を見て、必要なところをクリックし、文字を入力し、結果を確認して次へ進む。長時間作業させても途中で止まることが少ない。

便利だと思う。実際に仕事でも使っている。

しかし、使えば使うほど、別の感情も湧いてくる。

この技術は、本当に「便利」のためだけに作られたのだろうか。

Amazonが規約を書き換えた

最近、象徴的な出来事があった。

Amazonが利用規約を改定し、AIエージェントについてのルールを明記したのだ。

内容をかいつまんで言うと、Amazon上で動く自動化ツールやAIエージェントは、自分がエージェントであることを名乗らなければならない。そして、人間のキー入力の速さやパターンを真似てはいけない。さらに、Amazon上のAI生成コンテンツを、AIモデルの開発や改善に使うことも禁止された。

出品者向けには、それより前に同様のエージェント規約がすでに施行されている。

その前から伏線はあった。AI企業のPerplexityが、AIに指示するだけでAmazonでの購入まで完了する機能を出したとき、Amazonはアクセスを制限し、提訴に踏み切っている。

僕が一番引っかかったのは、「人間のキー入力の速さやパターンを真似てはいけない」という一文だ。

わざわざこれを規約に書くということは、もう技術では見分けがつかないということではないか。

Amazonが本当に守りたいもの

ただし、Amazonが「AIそのもの」を嫌っているわけではない。

Amazon自身は、買い物を手伝うAIアシスタントを自社で用意し、AIに力を入れている。排除しようとしているのは、外から勝手に入ってきて、Amazonの中で買い物や情報収集をする「よそのAI」だ。

なぜか。

人間が買い物をするとき、人間は画面を見る。広告を見る。おすすめ商品を見る。ついでにもう一つ買う。ECサイトの収益は、この「人間が画面を見ること」の上に成り立っている。

ところがAIが代わりに買い物をすれば、人間はもう画面を見ない。AIは広告に興味を示さないし、ついで買いもしない。必要なものを、必要な数だけ、最安で買って帰っていく。

つまり外部のAIに買い物を任せられると、Amazonは顧客との接点そのものを失う。お客さんの前に立っているのが、Amazonではなく別の会社のAIになってしまうのだ。

だからこれは、単なるボット対策ではないと思う。「お客さんの入口を誰が握るのか」という争いでもある。

見分けられなくなった結果、人間が巻き込まれた

それを裏づけるような話もある。

ボット対策を強化する中で、Amazonのシステムが一部の一般ユーザーを「AI」と誤認し、カスタマーレビューを8件までしか読めないように制限してしまったと報じられた。

AIを締め出そうとしたら、本物の人間が締め出された。

笑い話のようだが、これはかなり本質的な出来事だと思う。

AIが人間に近づきすぎた結果、システムの側が人間とAIの区別をつけられなくなっている。そして区別をつけようとすればするほど、誤って人間を疑うことになる。

思い返せば、CAPTCHAもそうだった。

歪んだ文字を読ませる。信号機が写っている画像を選ばせる。「人間にはできるが、機械にはできない」ことを利用して、人間かどうかを確かめる仕組みだった。

ところが今では、歪んだ文字も画像の判別も、AIの方が速く正確にこなせてしまう。そのため確認はどんどん複雑になり、気がつけば人間の方が「これ、どれを選べばいいんだ」と迷うようになった。

実は昨日、僕自身がまさにこれで大変な思いをした。

画像が荒くて、どれが信号機なのか分からない（笑）。選んでは次の画像が出て、また選んでは次が出る。延々とボタンを押し続けて、やっとのことで中に入れた。

AIなら一瞬で通り抜けるかもしれない関門の前で、本物の人間である僕が、自分が人間であることを証明できずに何度も足止めされていたわけだ。

人間であることを確かめるためのテストが、人間にとって一番面倒なものになっている。これもまた、見分けがつかなくなった時代の象徴だと思う。

これは技術のイタチごっこだ

ここで誤解されたくないのは、僕は「見つからないなら使っていい」と言いたいわけではないということだ。

言いたいのは、これが完全にイタチごっこになっているということである。

最初は技術で見分けようとした。CAPTCHAを出す。操作の速さやパターンを見る。不自然な動きをするアクセスをはじく。

するとAIの側が進化する。画面を見て、人間と同じようにクリックし、人間と同じような間で入力する。

見分けられなくなる。

そこで最後は、技術ではなく規約で縛る。「AIは名乗れ」「人間を真似るな」。

つまり、守る側は技術での勝負をあきらめ、ルールで線を引き直し始めたのだ。

しかしルールは、守る人には効くが、守らない人には効かない。名乗らずに入ってくるAIを技術で見つけられないのであれば、規約に書いても、最後は「見つかったら処分する」という話にしかならない。

イタチごっこは終わらない。舞台が技術から規約に移っただけだ。

正直、裏をかくための技術にしか見えない

この機能を便利と捉えて悪用するか、それとも純粋に技術の進歩と捉えるかは、使う側のリテラシーに委ねられている。

それは分かっている。

しかし正直に言うと、僕にはこの手の開発が、裏をかくために作られた技術にしか見えない瞬間がある。

例えばオンラインゲームでは、RMT（リアルマネートレード）が禁止されている。ゲーム内のアイテムや通貨を現実のお金で売買する行為だ。かつてはその裏で、中国やベトナムなどの若者が24時間交代でゲームに張り付き、ひたすら同じ作業を繰り返していたと言われる。

そもそも、それがいいことだとは思わない。

ただ、あれは少なくとも人間がやっていた。人間がやる以上、人数にも時間にも限界があった。

この技術は、その網を完全に潜る。

人間を雇う必要もなく、交代する必要もなく、24時間、人間と見分けのつかない操作を続けられる。かつて人海戦術でしかできなかったことが、人なしでできてしまう。

「便利」と「悪用」の距離が、これほど近い技術も珍しいと思う。

では、なぜ必要だったのか

だから僕は、ずっと疑問に思っている。

なぜ、この技術が必要だったのか。

一応の答えは分かる。

世の中のソフトの大半は、人間が画面を見て操作する前提で作られている。役所の申請画面、古い業務システム、社内の管理画面、取引先の発注画面。こうしたものの多くには、AIが直接つながるための入口がない。

だからAIに「PCでの仕事」を任せようとすれば、人間と同じように画面を見て、人間と同じようにマウスとキーボードを使わせるのが一番手っ取り早い。

実はAI以前から、人間のクリックを真似て定型作業を自動化するRPAという仕組みがあり、多くの企業が使ってきた。その意味では、今のAIはその延長線上にある。

そしてAI企業が本当に目指しているのは、PCで働く人間の代わりだと思う。ホワイトカラーの仕事を丸ごと任せるには、人間と同じ道具を、人間と同じように使える必要がある。

人間らしく見えるのは、狙いというより、その副産物なのかもしれない。

理屈としては理解できる。

それでも、出来上がったものを見ると、やはり「人間のふりができるAI」であることに変わりはない。目的が何であれ、結果として網を潜る力を持ってしまった。

作る側も線を引き始めてはいる

公平のために書いておくと、AIを提供している大手の企業も、何もしていないわけではない。

主要なAIエージェントの多くは、CAPTCHAを勝手に解かない、サイトの規約に従う、といった制限をかけて動いていると言われている。中には、自社のエージェントからのアクセスに「これはうちのAIです」と分かる印を付け、自ら名乗る方向に進んでいる会社もあるようだ。

つまり、真面目な提供者ほど「名乗るAI」に寄っていく。

しかし、ここにも穴がある。

AIの仕組みそのものは、もう誰でも手に入る。制限をかけない形でエージェントを組み立てることも、技術的には難しくない。大手が行儀よく名乗れば名乗るほど、名乗らないAIとの差ははっきりしていく。

守る側から見れば、名乗るAIは管理しやすい。厄介なのは、名乗らないAIの方だ。そしてそれを見分ける技術がない。

結局、ここでもイタチごっこは続く。

爆発的な需要の裏側で

もう一つ、僕が勝手に疑っていることがある。

ChatGPTの最上位プランが、新規受付を一時停止したというニュースがあった。報道では、新しいモデルへの前例のない需要が理由とされている。

それはそうなのだろう。

ただ僕は、その需要の中に、こうしたエージェントを24時間動かし続ける使い方がかなり含まれているのではないかとも思っている。

人間が使う分には、寝る時間もあれば、休む時間もある。しかしエージェントは止まらない。一人の契約者が、人間何人分もの処理を延々と回し続けることができる。

これは根拠のある話ではなく、あくまで僕の推測だ。しかし、AIが「人間の代わりにPCを使う」ようになれば、AIの利用量は「人間の数」では測れなくなる。その歪みは、どこかで必ず表に出てくると思う。

この先にあるのは「人間であることの証明」

では、このイタチごっこの先には何があるのか。

僕は、流れが逆になると思っている。

これまでは、守る側が「お前はAIだろう」と見つけ出そうとしてきた。しかし、それはもう難しい。

だから今後は、人間の側が「自分は人間です」と証明させられるようになるのではないか。

顔認証や本人確認と結びついた、人間であることを証明する仕組みはすでにいくつも出てきている。AIが人間に近づけば近づくほど、人間の方が「人間であること」を証明するためのコストを払うことになる。

以前のコラムで、AIがどれだけ自動化を進めても、最後のボタンだけは人間が押さなければならないと書いた。

その流れの行き着く先は、もしかすると、ボタンを押す前に「あなたは本当に人間ですか」と問われる社会なのかもしれない。

使う側として気をつけていること

では、使う側の僕自身はどうしているのか。

一つだけ決めているのは、大事なアカウントでは、規約をきちんと確認してからAIに触らせるということだ。

Amazonのように、規約でAIエージェントの扱いを明記するサービスは、これから確実に増えていく。ECサイトも、銀行も、SNSも、同じ方向に動いていくだろう。

そうなったとき、技術的には見つからないとしても、規約上は違反になる。万が一見つかれば、アカウントが止められる可能性がある。

買い物の履歴、支払い情報、取引先とのやり取り。長年使ってきたアカウントには、自分の生活や仕事が丸ごと乗っている。AIに作業を一つ任せて楽をした代わりに、それを全部失うのでは割に合わない。

しかも厄介なのは、自分では何のミスも犯していないはずなのに、いつの間にか規約の方が変わっていることだ。

昨日まで問題なく使えていた方法が、今日からは違反になっている。規約変更の通知は一応メールで届くが、長い英文や細かい条文を、毎回すべて読んでいる人はほとんどいないだろう。僕もそうだ。

こちらは同じことを続けているだけなのに、ルールの側が動く。AIをめぐるルールは今まさに作られている最中なので、これからしばらくは、こういうことが何度も起きると思う。

だから今は、「一度確認したから大丈夫」ではなく、大事なサービスほど定期的に規約を見直す必要がある。正直、面倒だ。しかし、これもAIを仕事に使う側が払わなければならないコストの一つなのだと思う。

そこで僕がやっているのは、AIに作業をさせる前の徹底的なリサーチだ。

そのサービスの規約はどうなっているのか。自動化やAIエージェントについて何か書かれていないか。やっていいことなのか、悪いことなのか。その判断をしっかり付けてから、AIを動かす。

このチェックを怠ると、知らないうちに大きな規約違反を犯すことになる。

ただ、考えてみればこれは特別なことではない。

僕は25年以上、Web制作やシステム開発の仕事をしてきた。新しいサービスと連携するときも、新しい仕組みを導入するときも、まず仕様と規約を調べ、できることとできないことを確認してから手を動かしてきた。

AIを使うようになっても、そこは何も変わらない。変わったのは、手を動かすのが人間ではなくAIになったことだけだ。だから、これまでと同じやり方を続けていれば、特に問題はないと思っている。

むしろ、AIが手を動かしてくれるようになった分、人間はこの「動かす前の判断」にこそ時間を使うべきなのだろう。

AIに仕事を任せることと、AIに何でもやらせることは違う。

前回のコラムで書いた「ガードレール」は、まさにここにある。どこまでをAIに任せ、どこから先には踏み込ませないのか。その線を引くのは、やはり人間の仕事だ。

技術に罪はない、と言い切れるか

「技術に罪はない。使う人の問題だ」とはよく言われる。

僕もそう思いたい。

実際、僕自身がこうした技術の恩恵を受けて仕事をしている。AIに作業を任せ、人間が介在しなくても仕事が進む仕組みを作ろうとしている。その立場で、この技術を一方的に悪だと言うつもりはない。

ただ、人間と見分けがつかないことを前提に作られた技術が、人間社会のルールとぶつかるのは当然だと思う。

AIを使う側に必要なのは、「できるかどうか」ではなく、「やっていいかどうか」を自分で判断する力だ。

そして、その判断を一人ひとりのリテラシーに委ねるしかない状況そのものが、今のAI社会の一番危ういところなのではないだろうか。