商都下関の繁栄の象徴であった旧銀行街の一角に建っています。建物は銀行建築の名手と謳われた長野宇平治の古典主義銀行建築の代表作。正面外壁は御影石で、イオニア式とコリント式を組み合わせた柱頭を持つ付け柱が施されています。また頂部に大きな櫛型のペディメントが置かれ、窓上部の午頭彫刻、軒上の壷など、古典主義建築の魅力が随所にうかがえます。また、平成20年には「山口銀行旧本店」隣接地に、展示棟と収蔵庫を新設し、旧本店とあわせて「やまぎん史料館」がオープンいたしました。