ボトルネック

「コンピュータは、CPU内部での処理速度が超速いので他の装置…例えばメモリやSSDなどとデータのやり取りをする際、ボトルネックが生じる」とコンピュータの資格に挑戦していたときに習った。

ボトルネックとは、コンピュータなどの機器においてデータが流れる際、処理速度が速い装置部分と処理速度が遅い装置部分とで処理が滞ってしまう現象を指す。

つまり目的地に行くのにウサギがカメの速度に合わせて途中で待っているようなことがコンピュータ内部で起きているのだ。

コンピュータではこのボトルネックがなるべく生じないように色々と対策が取られているらしい。

生成AIも処理速度は人間の何千倍、何万倍と速いので、人間が生成AIからの結果を見て何か判断する場合、そこにボトルネックが生じる。

なんなら生成AIがすべてを行ってしまったら一番滞りなく解決するかもしれない。
でも人間は、「考える」という時間が「楽しいこと」であることも多いので、生成AIを使う場合のボトルネックはあまり気にしない方が良いように思う。