飛行場が整備できない島しょ部などの防衛用として水上戦闘機の開発を目指した海軍は１９４０（昭和１５）年、川西航空機に新型機の開発を命じた。しかし、対米開戦が必至の情勢となったことから、川西の新型機が完成するまでの「つなぎ」として、中島飛行機に零式艦上戦闘機の機体を利用した応急の水上戦闘機を発注した。中島は当初、零戦の完成機を改造しようとしたが、海水による腐食対策が難しかったため、零戦ベースの専用機体にフロートを装備した水上戦闘機を開発した。

　１号機は４１（昭和１６）年１２月に初飛行し、翌４２（昭和１７）年７月に二式水上戦闘機として制式化された。零戦の降着装置を取り外して、機体下に主フロート、両翼下に補助フロートを取り付けたほか、潤滑油冷却器を主フロートの付け根に埋め込んだ。垂直尾翼の大型化と機体下面の安定ひれの追加で、フロートの抵抗による操縦性能の悪化を防いでいる。最大水平速度は、零戦二一型の時速５３３キロから同４３６キロに低下したものの、水上機としては極めて高い運動性を発揮した。

　制式化と同時に激戦のソロモン諸島やアリューシャン方面に配備され、陸上基地施設のない前線基地では防空や船団護衛、対潜哨戒などに活躍し、貴重な戦力となった。零戦と同様に２０ミリ機銃と７．７ミリ機銃を搭載し、いざとなれば格闘戦も辞さなかったが、４３（昭和１８）年以降、米軍が高性能の新型機を投入してくると、さすがに活動の場はなくなった。正確な機数は不明だが、２５０機以上が製造されており、補助的な機種としては異例の多さと言える。