毛瑟C96最初是由德国毛瑟兵工厂的菲德勒三兄弟（Fidel、Friedrich、Josef Feederle）利用空闲时间所设计出来，后来与毛瑟兵工厂的老板商定为职务发明以毛瑟为名申请了专利。毛瑟C96是德国毛瑟兵工厂于1895年12月11日申请的专利，次年正式开始生产。1939年毛瑟厂停止生产C96，截止共生产了约一百万把毛瑟C96，而其他国家亦仿制了约数百万把。
毛瑟兵工厂生产毛瑟C96一直希望让德国军队能装备此枪，但在投产的最初十余年间，因成本过高，未能取代当时德国制式手枪M1879帝国转轮手枪，后来，德国陆军于一战期间订购了150000把9毫米口径的毛瑟C96，交付了137000把，这也是德国陆军正式装备此枪的唯一记录。
