1869年(明治2年)に軍務官が兵部省となった際に陸軍大将と海軍大将が設けられ、翌1870年(明治3年)9月18日の太政官布達第604号で兵部省に設けられた陸海軍大将から陸海軍權曹長までの11等級の筆頭に位置した。これらは
四等官に倣って官位と分掌事務がセットとなった職員の等級であったが、1873年(明治6年)5月8日の太政官布達第154号による官等表改正で軍人の階級呼称として引き続き用いられ、
西欧近代軍の階級呼称の序列に当てはめられることとなった。
大日本帝国陸軍および
大日本帝国海軍では将官の最上級であり、すなわち軍人の最上級である。
親任式を以て任じられる
親任官とされた。参謀総長、軍令部総長、陸海軍大臣、軍司令官や聯合艦隊司令長官などに就任した。なお、最初の大将は西郷隆盛である。