[CBRD-27229] [Backport-10.2.19] Fix SIGFPE (server crash / SA infinite loop) on MIN / -1 in integer and NUMERIC arithmetic

[jongmin-won]

http://jira.cubrid.org/browse/CBRD-27229

Purpose

정수 타입의 최솟값을 -1로 나누면(INT_MIN / -1, BIGINT_MIN / -1) 몫이 해당 타입으로 표현 불가능해 machine divide 명령에서 하드웨어 divide 예외(SIGFPE)가 발생합니다.
CS 모드에서는 cub_server가 비정상 종료되고, SA 모드에서는 폴트가 발생한 명령을 반복 실행하며 무한 루프에 빠집니다.

결함은 세 가지 형태로 존재합니다.

• a / b, a % b, MOD(a, b): MIN / -1 오버플로 검사 없이 machine divide를 실행
• a * b: 검사 매크로 OR_CHECK_MULT_OVERFLOW 자체가 나눗셈((c) / (b))을 수행하므로, INT_MIN * -1 검증 도중 매크로 내부에서 트랩 발생
• NUMERIC: numeric_div()가 양쪽 피연산자가 int/BIGINT에 들어가면 machine divide 빠른 경로를 타므로, INT_MIN·BIGINT_MIN에 해당하는 NUMERIC 값에서 트랩 발생

SHORT는 정수 승격 덕분에 트랩은 없지만, -32768 / -1이 -32768로 잘려 반환되는 값 오류가 있었습니다.

Implementation

• object_representation.h: OR_CHECK_MULT_OVERFLOW가 b == -1 케이스를 나눗셈 없이 판정하도록 수정.
  • 매크로는 (wrap된) 곱셈 이후 실행되므로, b == -1일 때 c == a가 성립하는 경우는 a == 0(정상)과 a == MIN(오버플로)뿐이라 (a) != 0 && (c) == (a)로 충분합니다.
  • 남은 (c) / (b)는 b != 0, -1일 때만 실행되어 트랩 조건이 없습니다.
  • 호출처 6곳이 일괄 해결됩니다. (__builtin_mul_overflow_p와 4,800만 케이스 대조, 불일치 0건)
• query_opfunc.c
  • qdata_divide_short/int/bigint(): 나눗셈 전에 OR_CHECK_*_DIV_OVERFLOW 검사 후 ER_QPROC_OVERFLOW_DIVISION 반환
  • qdata_divmod_dbval(): a % b / a MOD b 경로에서 MIN % -1은 트랩 대신 0을 반환.
  • 피연산자가 이미 DB_BIGINT로 확장되어 있어 실제로 트랩 가능한 것은 BIGINT 케이스뿐입니다.
  • 아울러 DIV 오버플로 에러를 ER_QPROC_OVERFLOW_ADDITION에서 ER_QPROC_OVERFLOW_DIVISION으로 교체
• arithmetic.c: db_mod_int() / db_mod_bigint()(함수형 MOD(a, b), 원래 피연산자 폭으로 계산)의 divisor 타입별 분기에서 MIN % -1 → 0 반환
• type_checking.c (클라이언트 상수 폴딩): PT_DIVIDE는 MIN / -1을 오버플로 에러로, PT_MOD는 MIN % -1을 0으로 폴딩하여 서버 동작과 일치시킴
• numeric_opfunc.c (numeric_div()): int 빠른 경로가 트랩 조건이면 피연산자를 DB_BIGINT로 넓혀 나눗셈, BIGINT 빠른 경로가 트랩 조건이면 numeric_long_div()로 우회.
  • 두 경우 모두 몫과 나머지를 정확히 산출하며 — NUMERIC(38,0)으로 표현 가능하므로 — 에러 없이 정답을 반환합니다.

Remarks

• a % b는 MOD 토큰으로 렉싱되어 a MOD b와 동일하게 qdata_divmod_dbval()에서 DB_BIGINT 폭으로 계산되므로 INTEGER 피연산자는 원래도 안전했습니다.
• 반면 함수형 MOD(a, b)는 원래 폭으로 계산하므로 INTEGER에서도 트랩이 발생했습니다.
• MIN % -1은 수학적으로 0이므로 에러 없이 0을 반환하며, 이는 MOD 경로의 기존 divisor == 0 처리 방식과 일관됩니다.

[greptile-apps]

_{Reviews (1): Last reviewed commit: "[CBRD-27229] [Backport-10.2.19] Fix SIGF..." | Re-trigger Greptile}