Skip to content

Latest commit

Β 

History

History
378 lines (351 loc) Β· 29 KB

File metadata and controls

378 lines (351 loc) Β· 29 KB

Event Indexer Architecture

High-Level System Diagram

test in webdev

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚                        TRUTHBOUNTY API                             β”‚
β”‚                      (NestJS Application)                          β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                                β”‚
                    β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”΄β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                    β”‚                       β”‚
        β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
        β”‚  Existing API       β”‚  β”‚ Event Indexer      β”‚
        β”‚  (App Controller)   β”‚  β”‚ (NEW COMPONENT)    β”‚
        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                                            β”‚
                    β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                    β”‚                       β”‚                       β”‚
                    β–Ό                       β–Ό                       β–Ό
        β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”   β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”   β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
        β”‚ Config Module    β”‚   β”‚ Indexer Service  β”‚   β”‚ Indexer Module   β”‚
        β”‚                  β”‚   β”‚ (Core Logic)     β”‚   β”‚ (Lifecycle Mgmt) β”‚
        β”‚ β€’ RPC URL        β”‚   β”‚                  β”‚   β”‚                  β”‚
        β”‚ β€’ Contracts      β”‚   β”‚ β€’ Event Polling  β”‚   β”‚ β€’ onModuleInit   β”‚
        β”‚ β€’ DB Params      β”‚   β”‚ β€’ RPC Queries    β”‚   β”‚ β€’ onModuleDestroyβ”‚
        β”‚ β€’ Thresholds     β”‚   β”‚ β€’ Decoding       β”‚   β”‚                  β”‚
        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜   β”‚ β€’ Deduplication  β”‚   β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                               β”‚ β€’ Reorg Safety   β”‚
                               β”‚ β€’ Retry Logic    β”‚
                               β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”˜
                                         β”‚
                    β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                    β”‚                    β”‚                    β”‚
                    β–Ό                    β–Ό                    β–Ό
        β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
        β”‚ Indexer REST API β”‚  β”‚  Optimism RPC    β”‚  β”‚ PostgreSQL DB    β”‚
        β”‚ (Controller)     β”‚  β”‚                  β”‚  β”‚                  β”‚
        β”‚                  β”‚  β”‚ β€’ eth_blockNumberβ”‚  β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”β”‚
        β”‚ β€’ GET /status    β”‚  β”‚ β€’ eth_getLogs    β”‚  β”‚ β”‚ indexed_events β”‚β”‚
        β”‚ β€’ POST /restart  β”‚  β”‚ β€’ eth_getBlock   β”‚  β”‚ β”‚ (event data)   β”‚β”‚
        β”‚ β€’ POST /backfill β”‚  β”‚                  β”‚  β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜β”‚
        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜  β”‚ β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”β”‚
                                                     β”‚ β”‚ indexing_state β”‚β”‚
                                                     β”‚ β”‚ (progress)     β”‚β”‚
                                                     β”‚ β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜β”‚
                                                     β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Component Interaction Flow

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚                    POLLING LOOP (Every 12s)                      β”‚
β”‚                  [EventIndexerService]                           β”‚
β”œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€
β”‚                                                                  β”‚
β”‚  1. Get Current Block Number                                    β”‚
β”‚     └─→ await provider.getBlockNumber()                         β”‚
β”‚         ↓                                                        β”‚
β”‚  2. For Each Configured Contract                                β”‚
β”‚     └─→ Get lastProcessedBlockNumber from DB                    β”‚
β”‚         ↓                                                        β”‚
β”‚  3. Fetch Events from RPC                                       β”‚
β”‚     └─→ eth_getLogs(address, topics, fromBlock, toBlock)        β”‚
β”‚         ↓                                                        β”‚
β”‚  4. Process Each Event                                          β”‚
β”‚     └─→ Check if already indexed (idempotency)                  β”‚
β”‚     └─→ Decode event using ethers.Interface                     β”‚
β”‚     └─→ Calculate confirmations                                 β”‚
β”‚     └─→ Determine finalization status                           β”‚
β”‚     └─→ Store in indexed_events table                           β”‚
β”‚         ↓                                                        β”‚
β”‚  5. Update Indexing State                                       β”‚
β”‚     └─→ Set lastProcessedBlockNumber                            β”‚
β”‚     └─→ Mark status as 'idle'                                   β”‚
β”‚                                                                  β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Reorg Detection & Recovery Flow

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚              RECONCILIATION LOOP (During Polling)                β”‚
β”‚            [EventIndexerService.reconcileReorgs]                β”‚
β”œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€
β”‚                                                                  β”‚
β”‚  For Each Finalized Event in Database:                          β”‚
β”‚                                                                  β”‚
β”‚  confirmations = currentBlockNumber - eventBlockNumber          β”‚
β”‚                                                                  β”‚
β”‚  IF confirmations >= THRESHOLD (e.g., 12)                       β”‚
β”‚     └─→ Keep as finalized βœ“                                     β”‚
β”‚                                                                  β”‚
β”‚  ELSE IF confirmations < THRESHOLD                              β”‚
β”‚     └─→ Mark as unfinalized                                     β”‚
β”‚     └─→ Reset isProcessed = false                               β”‚
β”‚     └─→ Clear processingError                                   β”‚
β”‚     └─→ Allow re-processing ◄─ REORG RECOVERY                   β”‚
β”‚                                                                  β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Idempotency & Deduplication

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚              Event Deduplication Strategy                        β”‚
β”œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€
β”‚                                                                  β”‚
β”‚  Level 1: Application Check                                     β”‚
β”‚  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”         β”‚
β”‚  β”‚ SELECT * FROM indexed_events                       β”‚         β”‚
β”‚  β”‚ WHERE transaction_hash = ?                         β”‚         β”‚
β”‚  β”‚   AND log_index = ?                                β”‚         β”‚
β”‚  β”‚   AND event_type = ?                               β”‚         β”‚
β”‚  β”‚ LIMIT 1;                                           β”‚         β”‚
β”‚  β”‚                                                    β”‚         β”‚
β”‚  β”‚ IF found: SKIP (already indexed)                   β”‚         β”‚
β”‚  β”‚ ELSE: proceed to Level 2                           β”‚         β”‚
β”‚  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜         β”‚
β”‚                         ↓                                        β”‚
β”‚  Level 2: Database Constraint                                   β”‚
β”‚  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”         β”‚
β”‚  β”‚ UNIQUE (transaction_hash, log_index, event_type)   β”‚         β”‚
β”‚  β”‚                                                    β”‚         β”‚
β”‚  β”‚ Prevents any duplicate inserts at DB level        β”‚         β”‚
β”‚  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜         β”‚
β”‚                                                                  β”‚
β”‚  Result: Guaranteed single processing even with:                β”‚
β”‚  β€’ Duplicate RPC responses                                      β”‚
β”‚  β€’ Service restarts                                             β”‚
β”‚  β€’ Multiple indexer instances                                   β”‚
β”‚                                                                  β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

State Machine: Event Lifecycle

                    β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                    β”‚   RPC Event Fetched β”‚
                    β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                               β”‚
                    β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                    β”‚  Check Idempotency  β”‚
                    β”‚  (Already indexed?) β”‚
                    β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                               β”‚
                 β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”΄β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                 β”‚                          β”‚
            YES  β”‚                          β”‚  NO
                 β–Ό                          β–Ό
        β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”         β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
        β”‚   SKIP       β”‚         β”‚   Decode Event   β”‚
        β”‚   (return)   β”‚         β”‚   (Parse logs)   β”‚
        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜         β””β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                                         β”‚
                                 β”Œβ”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”
                                 β”‚ Store in DB    β”‚
                                 β”‚ indexed_events β”‚
                                 β””β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                                         β”‚
                        β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                        β”‚ Check Confirmations             β”‚
                        β”‚ threshold_met = (conf >= 12)?   β”‚
                        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                                     β”‚
                        β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”΄β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
                        β”‚                         β”‚
                    YES β”‚                         β”‚ NO
                        β–Ό                         β–Ό
            β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”   β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
            β”‚  isFinalized=true  β”‚   β”‚  isFinalized=false   β”‚
            β”‚  Ready for syncing β”‚   β”‚  Await more blocks   β”‚
            β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜   β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                        β”‚                         β”‚
                        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
                                     β”‚
            β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
            β”‚ Check Reorg Risk (Next Reconciliation Loop) β”‚
            β”‚ if conf < 12: mark unfinalized, reprocess   β”‚
            β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Database Schema Relationships

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚                  IndexingState Table                             β”‚
β”‚  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”   β”‚
β”‚  β”‚ id (UUID)                                               β”‚   β”‚
β”‚  β”‚ chainId + contractAddress + eventType (UNIQUE)          β”‚   β”‚
β”‚  β”‚ lastProcessedBlockNumber ◄── Resume point              β”‚   β”‚
β”‚  β”‚ status (idle/indexing/backfilling/error)                β”‚   β”‚
β”‚  β”‚ totalEventCount, processedEventCount, failedEventCount β”‚   β”‚
β”‚  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜   β”‚
β”‚                         β”‚ (1:N)                               β”‚
β”‚                         β”‚                                     β”‚
β”‚  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”   β”‚
β”‚  β”‚              IndexedEvent Table                       β”‚   β”‚
β”‚  β”‚  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β” β”‚   β”‚
β”‚  β”‚  β”‚ id (UUID)                                        β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ eventType (foreign key to IndexingState)        β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ transactionHash + logIndex + eventType (UNIQUE) β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ blockNumber + logIndex (UNIQUE)                 β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ contractAddress                                 β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ eventData (JSONB - raw RPC response)            β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ parsedData (JSONB - decoded parameters)         β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ confirmations                                   β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ isFinalized (reorg safety)                      β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ isProcessed (downstream syncing)                β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ processingError (error tracking)                β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ retryAttempts (retry count)                     β”‚ β”‚   β”‚
β”‚  β”‚  β”‚ createdAt, updatedAt (timestamps)               β”‚ β”‚   β”‚
β”‚  β”‚  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜ β”‚   β”‚
β”‚  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜   β”‚
β”‚                                                              β”‚
β”‚  Indexes:                                                    β”‚
β”‚  β€’ (blockNumber, logIndex) - UNIQUE                          β”‚
β”‚  β€’ (transactionHash, logIndex, eventType) - UNIQUE           β”‚
β”‚  β€’ (eventType, blockNumber) - for filtered queries           β”‚
β”‚  β€’ (processedAt) - for time-based queries                    β”‚
β”‚  β€’ (isProcessed) - for finding unprocessed events            β”‚
β”‚                                                              β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Data Flow: From Blockchain to Application

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚  Optimism Chain     β”‚
β”‚  Contract Event     β”‚
β”‚  emitted()          β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
           β”‚
           β–Ό
β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚ Optimism RPC Node            β”‚
β”‚ (eth_getLogs API)            β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
           β”‚
           β–Ό
β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚ EventIndexerService          β”‚
β”‚ β€’ Fetch logs                 β”‚
β”‚ β€’ Parse/decode               β”‚
β”‚ β€’ Check idempotency          β”‚
β”‚ β€’ Calculate confirmations    β”‚
β”‚ β€’ Handle errors/reorgs       β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
           β”‚
           β–Ό
β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚ PostgreSQL indexed_events    β”‚
β”‚ β€’ Raw event data             β”‚
β”‚ β€’ Parsed parameters          β”‚
β”‚ β€’ Finalization status        β”‚
β”‚ β€’ Processing state           β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜
           β”‚
           β–Ό
β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚ Downstream Modules (Future)  β”‚
β”‚ β€’ Reward Syncing             β”‚
β”‚ β€’ Stake Syncing              β”‚
β”‚ β€’ GraphQL API                β”‚
β”‚ β€’ WebSocket Updates          β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Deployment Architecture

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚                       Production Setup                         β”‚
β”œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€
β”‚                                                                β”‚
β”‚  β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”         β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”            β”‚
β”‚  β”‚  Optimism RPC    β”‚         β”‚  PostgreSQL      β”‚            β”‚
β”‚  β”‚  (Alchemy/       │◄────────│  (AWS RDS/       β”‚            β”‚
β”‚  β”‚   Infura/Node)   β”‚         β”‚   Docker/        β”‚            β”‚
β”‚  β”‚                  β”‚         β”‚   Self-hosted)   β”‚            β”‚
β”‚  β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜         β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜            β”‚
β”‚        β–²                              β–²                        β”‚
β”‚        β”‚                              β”‚                        β”‚
β”‚        β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜                        β”‚
β”‚                           β”‚                                    β”‚
β”‚                    β”Œβ”€β”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”€β”€β”                             β”‚
β”‚                    β”‚ NestJS App  β”‚                             β”‚
β”‚                    β”‚ β€’ Indexer   β”‚                             β”‚
β”‚                    β”‚ β€’ REST API  β”‚                             β”‚
β”‚                    β””β”€β”€β”€β”€β”€β”€β”¬β”€β”€β”€β”€β”€β”€β”˜                             β”‚
β”‚                           β”‚                                    β”‚
β”‚                 β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”΄β”€β”€β”€β”€β”€β”€β”€β”€β”€β”                          β”‚
β”‚                 β”‚                   β”‚                          β”‚
β”‚           β”Œβ”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”       β”Œβ”€β”€β”€β”€β”€β–Όβ”€β”€β”€β”€β”                    β”‚
β”‚           β”‚ Docker   β”‚       β”‚ Load     β”‚                    β”‚
β”‚           β”‚ Containerβ”‚       β”‚ Balancer β”‚                    β”‚
β”‚           β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜       β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜                    β”‚
β”‚                                                                β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Configuration Hierarchy

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚            Configuration Loading Order                      β”‚
β”œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€
β”‚                                                             β”‚
β”‚  1. Environment Variables (highest priority)               β”‚
β”‚     └─ OPTIMISM_RPC_URL                                    β”‚
β”‚     └─ DATABASE_HOST                                       β”‚
β”‚     └─ INDEXED_CONTRACTS                                   β”‚
β”‚                                                             β”‚
β”‚  2. .env.local (if exists)                                 β”‚
β”‚     └─ Local overrides                                     β”‚
β”‚                                                             β”‚
β”‚  3. .env (default)                                         β”‚
β”‚     └─ Project defaults                                    β”‚
β”‚                                                             β”‚
β”‚  4. Hardcoded Defaults in Code (lowest priority)          β”‚
β”‚     └─ If env var not found                               β”‚
β”‚     └─ Uses sensible defaults                              β”‚
β”‚                                                             β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Transactional Outbox Pattern & Idempotent Delivery Architecture (V2-BE-048 & V2-BE-076)

β”Œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”
β”‚                       TRANSACTIONAL OUTBOX FLOW                             β”‚
β”œβ”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€
β”‚                                                                             β”‚
β”‚ 1. Domain Action (Prisma Transaction)                                       β”‚
β”‚    └─→ Write Projection Data                                                β”‚
β”‚    └─→ Write OutboxEvent (status = 'PENDING', idempotencyKey = sha256(...)) β”‚
β”‚        ↓ (Atomic Commit)                                                    β”‚
β”‚ 2. OutboxScheduler (Cron Poller every 5s)                                   β”‚
β”‚    └─→ Claims PENDING OutboxEvents                                          β”‚
β”‚    └─→ Relays job to BullMQ 'notifications' queue                           β”‚
β”‚    └─→ Updates OutboxEvent status to 'DISPATCHED'                           β”‚
β”‚        ↓                                                                    β”‚
β”‚ 3. NotificationProcessor (Worker)                                           β”‚
β”‚    └─→ Step 3a: Redis SETNX Guard (key = idempotency:notification:${key})   β”‚
β”‚        β€’ Lock acquired  β†’ proceed to delivery                               β”‚
β”‚        β€’ Lock exists    β†’ suppress duplicate execution                      β”‚
β”‚    └─→ Step 3b: DB Fallback Guard (DeliveryHistory.findByIdempotencyKey)    β”‚
β”‚        β€’ Status DELIVERED β†’ suppress duplicate                              β”‚
β”‚    └─→ Step 3c: Deliver via Channel (WebSocket / Email / Webhook / InApp)   β”‚
β”‚    └─→ Update DeliveryHistory status                                        β”‚
β”‚                                                                             β”‚
β””β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”€β”˜

Security & Protocol Constraints

  • Zero PII & Settlement Data: OutboxEvent.payload contains opaque routing identifiers only (notificationId, channel, recipientIds). No claim body, settlement calculations, private keys, or credentials are path-logged or queued.
  • Protocol Boundary: API layer indexes, validates, and relays user-signed intent; it is never authoritative for settlement, rewards, or governance.
  • EVM Semantics: Full compatibility with Optimism/EVM chain rules.

Persistence Boundary: TypeORM-Only for New Code (V2-BE-111)

TypeORM/PostgreSQL is the persistence path for all new backend code. src/database/transaction.runner.ts is the shared transaction helper; use it rather than reaching for a raw DataSource or a second transaction abstraction.

Prisma (src/prisma/, prisma/schema.prisma) has pre-existing, real usage in a specific, closed list of modules: auth, notifications, outbox (see above), sybil-resistance, analytics, ai-assistant, and identity/worldcoin. That usage is grandfathered, not sanctioned for new work: it predates this boundary and migrating it off Prisma is a separate, larger effort, not part of this change.

Two things enforce the boundary going forward:

  • eslint.config.mjs restricts importing @prisma/client or prisma.service outside the grandfathered file list; new files hit this at lint time.
  • src/architecture.spec.ts asserts the same thing at test time, independent of whether lint runs.

Adding a file to either allowlist is a signal that the "TypeORM-only" boundary is being widened, not narrowed, so it should be treated the same as adding a new ORM: reviewed deliberately, not done to silence a lint error.