Ano, libgmp je k obojímu vhodná. Sám jsem zkoušel hledat Mersennova prvočísla pomocí Lucas-Lehmerova testu pomocí této knihovny. Vím také o tom, že proti ní linkuje Prime95, což je program, který se používá k distribuovanému hledání prvočísel v projektu GIMPS.