まだまだ技術的な課題が多い
その理由として、①正確性の問題をつぶせないこと、②知的財産やセキュリティー面で信頼性が足らないこと、③AI利用によりクライアントとの契約形態の見直しを迫られること、④開発効率化が結果的に収益の低下をもたらす恐れがある、など、まだまだ技術的な課題が多いことが専門家によって指摘されている。
一方で、利用率の伸びが高い教育分野は、おそらく最もAI利用による問題発生が少ない分野だろう。
米ニュースサイトのアクシオスは3月に、「小学3年生から高校3年生まで、生徒が提出する作文やレポートの課題を評価・採点するために、ChatGPTを応用した『ライタブル（Writable）』というプログラムが急速に普及している」と伝えた。
教育出版大手の米ホートン・ミフリン・ハーコートが開発したライタブルは、およそ1万6000校で使用されるという人気ぶりである。
結局、人間がやらざるを得ない
その仕組みはこうだ。教師が課題を生徒に与え、デジタル形式で提出された回答を教師がライタブルに分析させる。この際、生徒情報はトークン化されてAIには識別できないようになっている。AIに偏見を持たせず、評価の公平性を期するためだ。
ライタブルは、作文やレポートを解析してコメントや改良点の提案を教師に戻す。教師はそれを基に、生徒の個性や日頃の評価に合わせ、講評を書き直して返す。
このプログラムが普及した最大の理由は、ヒューマン・イン・ザ・ループ（Human-in-the-loop）、すなわちAIだけでなく、人間が採点に関与している点にある。
AIが間違いを犯したり、画一的・機械的な回答になったりする点を、教師の手を経ることで、正確で人間味が加えられた回答にできる。
中には、生成AIが書いた講評をそのまま生徒に返す不届きな教師もいるらしいが、正しく使われれば、採点中の教師の調べものや思考の時間を節約し、その空き時間を生徒と向き合うことに充てることが可能で、実用的かつ建設的な生成AIの利用法と言える。
また教育現場では、レッスンプラン作成やカリキュラム開発にも生成AIがすでに広く使われている。指導内容が多くの学校で似通っているために、AIも何が適切であるかを学習しやすいのである。