簡単にいうとよく使うデータをあらかじめストレージに保存しておき起動を早くしたり表示を早くしたりする仕組みのことです。
たとえばブラウザでホームページを閲覧した時に一度見たホームページのデータを一時的に保存し、2度目以降に同じホームページを開いたときに早く表示するということが出来ます。
アプリなども同じく、操作するデータとかを一時的に保存しておきアプリが高速に動いたりスムーズに動くようににキャッシュデータを利用します。
つまり使っているうちに色々なことをどんどん覚えて、賢く早くなっていくというイメージですね。
デメリットは一時的なデータとはいえどんどん保存されていくのでストレージの容量は圧迫していきますし、まれにキャッシュデータにエラーデータがある場合は動作が遅くなったりフリーズしたりということが起こる場合があります。
基本的に普段はあまり気にしなくてもよいですが、ストレージの容量を確保する必要があったり、アプリが重いなと感じたらアプリのキャッシュを消去してみるのも良いでしょう。