吴兢,汴州浚仪人。励志勤学,博通经史。宋州人魏元忠、亳州人朱敬则十分器重吴兢,等到居相辅位,推荐吴兢有史才,可以居近侍,于是使他任直史馆,撰写国史。几个月后,授予右拾遗内供奉。神龙二年(706),升右补阙,与韦承庆、崔融、刘子玄一起撰写《则天实录》成功,转为起居郎。不久升水部郎中,遭逢父母丧事返回乡里。开元三年(715),停止服丧,上奏给皇帝说:“我修史已完成数十卷,自从停职还家,不忘纸札,请求继续完成剩下的工作。”于是授予谏议大夫,依照从前撰写国史。不久兼修文馆学士,经历卫尉少卿、左庶子等职。居职将近三十年,撰书叙事简明扼要,人们使用时称道他。末年伤于叙事过于简略,《国史》未修成。十七年,出任荆州司马,皇帝诏令允许将史稿自己带走。中书令肖嵩监修国史,上奏拿取吴兢撰写的《国史》,得到六十五卷。多次升台、洪、饶、蕲四州刺史,加封银青光禄大夫,升相州长史,封襄垣县子。天宝初年(742)改官名,为邺郡太守,入朝任恒王傅。
吴兢曾经认为梁、陈、齐、周、隋五代史繁杂,于是另外撰写梁、齐、周史各十卷、《陈史》五卷、《隋史》二十卷,又由于太简略受到损害。吴兢虽然年老气衰,还是希望担任史职,但行步伛偻,李林甫认为吴兢年老不予任用。天宝八年(748),在家中去世,终年八十多岁。吴兢死后,他的儿子进献他撰写的《唐史》八十多卷,事情多有纰缪,赶不上壮年所写。吴兢家积聚的书很多,曾经按条目登记书的次序,名为《吴氏西齐书目》。