Kai Nielsen wurde in Svendborg geboren, wo er ein Malerlehrling bei Johannes Voss 1897-1901 war. Seine früheste Arbeit ist in Svendborg bei Gerritsgade 9 zu sehen, wo er und sein Bruder die Treppe ihres Elternhauses mit einem Fries verziert haben.
Nach seiner Lehre reiste er nach Kopenhagen, wo er als Maler arbeitete und an der Kunstakademie zugelassen wurde. Er beendete sein Studium an der Kunstakademie 1912.
Obwohl er als Maler anfing, würde sich Kai Nielsen bald mit Bildhauerei beschäftigen. Das charakteristische Merkmal in den Arbeiten von Kai Nielsen sind die runden Formen. Nichts ist hier sozusagen in Stein gemeißelt. Die Figuren sind in ihrer Darstellung des menschlichen Körpers sehr natürlich und verbergen keinen Teil.
Sein Durchbruch gelang er mit der Skulptur "Nackt", die eine gebeugte Frau mit den Armen auf dem Gesicht zeigt. Sein Werk "Der Brunnen von Ymir" steht auf dem Stadtplatz von Faaborg, wo es für Aufsehen sorgte, als es dort ursprünglich aufgestellt wurde.
Er nahm auch an der Dekoration des Blågårds Platzes in Kopenhagen teil.

Er hatte eine große Produktion von Figuren zusammen mit Bing & Gröndahl, wo die einzigartigen Formen seiner Figuren hervorstechen. Er hat viele Arbeiten in Blanc de Chine gemacht. Die meisten seiner Figuren sind sinnlich und ausdrucksstark.
Er arbeitete auch bei Kähler in Næstved.