AI時代だからこそ、レガシーな技術が活きる──データ人材はAIとの対話で“人間性”を失ってはならない

データサイエンティスト・エンジニアが認識すべき2つのリスク　突破のカギは「理解の境界線」

　AI活用が開発現場の“当たり前”となった今、技術者が意識すべきリスクは何か。ピーターソン氏は2つのリスクがあるとし、最初に「開発者自身の理解の欠落」を挙げた。先に述べたように、プログラミング言語や技術の根底にある仕組みを深く理解していなければ、優れたエンジニアにはなれない。AIを安易に利用しすぎることで、その根底理解が抜けおちた人材ができあがるリスクがある。

　たとえば、AIを使って構築したソフトウェアを本番環境で運用しているとする。それが、夜中に突然動かなくなった。そのとき、ソフトウェアが根本的・基本原理のレベルでどう動いているのかを理解していなければ、修正ははるかに難しくなってしまう。

　「こういった事態をなくすためには、『どこまで人間が理解していて、どこからがブラックボックスなのか』という境界線を自覚し、エンジニアリングのプロセスに組み込む必要があります。これまでの開発組織は、高品質でバグのないソフトウェアを届ける方法や、セキュリティ基準の担保について長年努力してきました。AIを使いながらそうした品質をどう維持するか、再学習しなければなりません」（ピーターソン氏）

　これが、2つ目のリスクである「セキュリティ上の脆弱性の混入」につながる。AIモデルはインターネット上のソフトウェアから学習しているため、生成されるコードはオープンソースパッケージに依存する傾向がある。そのライブラリの一つひとつが、サイバーセキュリティ上のアタックサーフェスとなりえるのだ。開発者は、AIが構築したコードにおけるサプライチェーン攻撃のリスクや依存関係を正確に把握・管理しなければいけない。

　なお、こういった人材スキルの変化は、ソフトウェア開発者だけでなく、データサイエンティストやデータエンジニアなどにも及ぶ。彼ら・彼女らは、データの準備からモデリングのパイプライン構築まで、手動で組んできた工程をAIに委ねられるようになった。だからこそ、技術の根底理解やプロジェクト全体を俯瞰して見る力などが同様に求められるようになる。

　そして、データサイエンティストやデータエンジニアなどの技術者には今後、より“柔軟な思考”が求められるという。たとえば、SAS社内でエンジニアリング文化について議論する際、「グロース・マインドセット（成長思考）」という概念が頻繁に挙がるそうだ。「現代において、『過去に成功した自分の知識や手法が、今後も通用する』と思いこんではいけない。常に学びつづけなければならないのだ。これは、現代を生きる技術者にとってまさに絶対の真理といえる」と語った。