バックエンドとは、利用者から見えない部分のソフトウェアのことです。 対義語は「フロントエンド」です。 バックエンドのことを「ミドルウェア」などと呼ぶ人もいます。だいたい同じ意味です。
たとえばウェブサーバーでいえばnode.jsやphpなどでフロントエンドを実装し、そこからバックエンドであるデータベースなどを利用します。
昨今のAIエージェントではフロントエンドは共通のものを提供し、バックエンドである大規模言語モデルを差し替えて常に同じ操作性で利用できるものも登場しています。