DH_CHECK_PUBKEY_INVALID
if ((errflags & DH_CHECK_PUBKEY_INVALID) != 0)
*ret = DH_MODULUS_TOO_LARGE | DH_CHECK_PUBKEY_INVALID;
*ret |= DH_CHECK_INVALID_Q_VALUE | DH_CHECK_PUBKEY_INVALID;