中小企業が導入するにはコストが大きい

ITジャーナリストの三上洋さんは、AIが持つ威力を認める一方で、気をつけなければならない点も指摘する。

「不正は人間だとなかなか見つけられない場合もあるが、AIは細かな違和感を見つけられるのでそこをフックにして人間が最終的にチェックすることで、かなりの割合で不正を防止することができる。ただAIで気をつけねばならないのが『ハルシネーション』だ」

ハルシネーションとは、英訳では「幻覚」で、AIがデータを誤って学習、解釈することで、もっともらしい誤った現実をつくりだしてしまうことを言う。いうなれば「AIのウソ」である。例えばある取引があったとする。AIが「この取引はリスクが低い」と判断したが、実際には重大な不正取引の兆候であったというケースも考えられる。