Af Henrik Jensen, 06/07/22
OpenSSL 3.0.4-udgivelsen har introduceret en alvorlig fejl i RSA implementering for X86_64 CPU'er, der understøtter AVX512IFMA instruktionerne.
Problemet består i, at RSA-implementeringer med 2048 bit private nøgler håndteres således, at 'hukommelsesoverload' vil ske under udførelse af instrukser. Som en konsekvens af hukommelsenkorruptionen kan en angriber udløse en fjerneksekvering af kode på den maskine, der udfører beregningen.
SSL/TLS-servere eller andre servere, der kører med 2048 bit RSA private nøgler på enheder, som understøtter AVX512IFMA-instruktioner for X86_64-arkitekturen, er berørt af dette problem.
Brugere af OpenSSL 3.0.4-versionen bør opgradere til OpenSSL 3.0.5. OpenSSL 1.1.1 og 1.0.2 er ikke berørt af dette problem.