1 Microwave Journal – 4/5/2018 

Digital Equalization of mmWave Analog Frequency Up and Down‐converters 

                                                                                                     By Anatoli Stein and Lauri Viitas                                                                                                      Measurements performed by Vasily Morozov                                                                                                      Software: Alexey Egorov and Alexander Bolotov 

1. Introduction It is a known fact that time‐interleaving of Analog‐to‐Digital Converters (ADC) is used to increase sampling rate of modern high‐performance digitizers. For example, the new 10‐bit digitizers from Guzik Technical Enterprises (GTE) feature Keysight Technologies ADC Integrated Circuit (IC), where 160 individual ADC are interleaved to achieve sampling at up‐to 64 Gsa/s (160 “slices” sampling at 400 Msa/s) forming two analog channels at 32 Gsa/s each. Time‐interleaving that many ADCs makes it challenging to achieve high Spurious‐Free Dynamic Range (SFDR). Patented digital equalization technology1 is used to reduce mismatch between slices, non‐flatness of Frequency Response (FR) and Group Delay (GD)2 of the Digitizer, to create a calibrated baseband receiver in DC ‐10 GHz band with input signal range from ‐32 dBm to +22 dBm. The same technology can be extended to equalize FR and GD of Up and Down‐converters which are working together with the digitizer to create desired “reference calibration plane” at the Down‐converter input (RF reference plane) or at the Up‐converter input (IF reference plane). 

2. 28 GHz frequency band Down‐converter FR and GD measurement setup The simplified block diagram of measurements is shown on Fig. 1  

 

Fig. 1 

FR measurement is relatively simple procedure: signal from CW generator is applied through the waveguide Band Pass Filter (BPF) to Down‐converter RF input. The measurements are performed in BPF bandwidth of 27.4 – 28.35 GHz. The frequency steps of CW generator were chosen small enough to measure details of the frequency response. About 1200 measurements with frequency step 1 MHz was conducted.  Note: An analog sinewave signal generator with NIST traceable calibration was used to measure the frequency response.  

                                                            1 US Patent 7,408,495 Digital Equalization of multiple interleaved Analog‐to‐Digital converters  2 US Patent 9,933,467 Group Delay Measurement Apparatus and Method  

2 Microwave Journal – 4/5/2018 

The Digitizer has been calibrated and FR and GD have been equalized prior to these experiments. To 

measure GD a GTE proprietary signal source was used. The measured FR and GD are shown on Fig. 2 and 

Fig. 3 respectively. On the same figures the equalized FR and GD are shown for 1279 tap equalizer. The 

typical non‐flatness of FR and GD are ±0.1 dB and ±100 ps respectively. 

 

 Fig. 2 

 

‐15

‐14

‐13

‐12

‐11

27.3 27.4 27.5 27.6 27.7 27.8 27.9 28 28.1 28.2 28.3 28.4 28.5

dB

GHz

Down converter Frequency Response without and with Equalizer

EQ off

 EQ on

‐800‐700‐600‐500‐400‐300‐200‐100

0100200300400500600700800900

10001100120013001400150016001700180019002000

27.3 27.4 27.5 27.6 27.7 27.8 27.9 28 28.1 28.2 28.3 28.4 28.5

ps

GHz

Down converter Group Delay without and with Equalizer

EQ off

 EQ on

3 Microwave Journal – 4/5/2018 

Fig. 3 Below the FR and GD temperature stability of the Down‐converter is plotted. The deviation from 

equalized FR and GD are shown on Fig. 4 and Fig. 5 respectively. 

 Fig. 4 

 

 Fig. 5 

   

‐14

‐13

‐12

27.3 27.4 27.5 27.6 27.7 27.8 27.9 28 28.1 28.2 28.3 28.4 28.5

dB

GHz

Down converter Frequency Response vs Temperature

 +15 °C

 +25 °C

 +35 °C

‐800‐700‐600‐500‐400‐300‐200‐100

0100200300400500600700800900

10001100120013001400150016001700180019002000

27.3 27.4 27.5 27.6 27.7 27.8 27.9 28 28.1 28.2 28.3 28.4 28.5

ps

GHz

Down converter Group Delay vs Temperature

 +15 °C

 +25 °C

 +35 °C

4 Microwave Journal – 4/5/2018 

A Vector Signal Generator (VSG) with low enough base Error Vector magnitude (EVM) in 28 GHz frequency range could not be identified on the market, which made it impossible to measure EVM of the Down‐converter before and after equalization. For that reason, the calibration plane was moved to the IF input of the Up‐converter.  

3. 28 GHz frequency band UP and Down‐converter FR and GD measurements 

The simplified block diagram of measurements is shown on Fig. 6 

 Fig. 6 

 The CW and GD signals were generated in frequency range 500 MHz to 1.5 GHz such a way that upper sideband at UP‐converter output was in the BPF passband (Fig. 6). The measurement results of FR and GD are shown on Fig. 7 and Fig. 8 respectively. On the same figures the equalized FR and GD are shown for 1279 taps equalizer. The typical non‐flatness of FR and GD are ±0.1 dB and ±50ps respectively.  

5 Microwave Journal – 4/5/2018 

Fig. 7 

 Fig. 8 

 Fig. 9 and Fig. 10 show how the equalized FR and GD responses are changing with different equalizer number of taps. 

 

‐21

‐20

‐19

‐18

‐17

400 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600

dB

MHz

Up/Down converter Frequency Response without and with Equalizer

EQ off

EQ on

‐800‐700‐600‐500‐400‐300‐200‐100

0100200300400500600700800900

10001100120013001400150016001700180019002000

400 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600

ps

MHz

Up/Down converter Group Delay without and with Equalizer

EQ off

EQ on

6 Microwave Journal – 4/5/2018 

 Fig. 9 

 Fig. 10 

    

‐19

‐18

400 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600

dB

MHz

Up/Down converter Frequency Response vs Equalizer length

159 taps

319 taps

639 taps

1279 taps

‐400

‐350

‐300

‐250

‐200

‐150

‐100

‐50

0

50

100

150

200

250

300

350

400

400 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600

ps

MHz

Up/Down converter Group Delay vs Equalizer length

159 taps

319 taps

639 taps

1279 taps

7 Microwave Journal – 4/5/2018 

Fig. 11 and Fig. 12 shows the deviation of equalized FR and GD of UP/DOWN converters for different temperature. 

 Fig. 11 

 Fig. 12 

 

‐20

‐19

‐18

‐17

400 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600

dB

MHz

Up/Down converter Frequency Response vs Temperature

 +15 °C

 +25 °C

 +35 °C

‐700‐650‐600‐550‐500‐450‐400‐350‐300‐250‐200‐150‐100‐500

50100150200250300350400450500550600650700

400 500 600 700 800 900 1000 1100 1200 1300 1400 1500 1600

ps

MHz

Up/Down converter Group Delay vs Temperature

 +25 °C

 +15 °C

 +35 °C

8 Microwave Journal – 4/5/2018 

The results of the EVM measurements for 16QAM and 64QAM, 625 Msymbol/s modulated signal with Root‐Raised‐Cosine (RRC) filter roll‐off factor of 0.35 for transmit and measurement without and with FR and GD equalization are shown on Fig. 13, Fig. 14, Fig. 15 and Fig. 16 using Keysight Technologies VSA 89600 Software. Before equalization EVM is ~11% and after the equalization is ~1% for 16QAM. For 64QAM measured EVM is 8.79% before equalization and ~1% after equalization. The measurements of EVM for different equalizer taps shows that even for 159 taps equalizer EVM is ~1%. Longer equalizer might be needed for wider band Up and Down‐converters. 

 Fig. 13 EVM 16QAM without equalization 

 

 Fig. 14 EVM 16QAM with equalization 

9 Microwave Journal – 4/5/2018 

 

 Fig. 15 EVM 64QAM without equalization 

 

 Fig. 16 EVM 64QAM with equalization 

     

10 Microwave Journal – 4/5/2018 

Fig. 17 shows how EVM changes over temperature for the Up and Down‐converters from ambient calibration temperature +25 °C.  

 Fig. 17 

  

4. Conclusion The digital equalization technology based on FR and GD measurements of Up and Down‐converters allows to significantly reduce the linear distortions of the test system.   Non‐flatness of the FR of the Up and Down‐converters was reduced from ±1.5 dB to ±0.1 dB. Non‐flatness of GD was reduced from ±1.25 ns to ±100 ps. As a result, the residual EVM through the Up/Down‐converters in the experiments conducted was reduced from ~11% (‐20 dB) to ~1% (‐40 dB) for 16QAM, 625 Msymbol/s signal with Root‐raised‐cosine filter (RRC) factor of 0.35, in the 28 GHz band.  The combination of Down‐converters and the Digitizer with equalizer can be used to create reference calibration RF reference plane. Thus forming a calibrated reference receiver in mmWave bands up‐to 30 GHz, with known FR and GD response. It should be noted that temperature stabilization should be added to the analog Up/Down‐converters to achieve repeatability and high accuracy.  The equalization can be done in hardware inside the FPGA‐based Digital Processor of the Guzik ADP7000 Series Digitizers in real‐time for signals with bandwidth up to 2.5 GHz using the patented3 Digital Downconverter (DDC). Up‐converter (WR28CCU) and Down‐converter (WR28CCD) were provided by Virginia Diodes, Inc. for experiment and demonstration purposes of the technology. 

                                                            3 US Patent 9,634,679 Digital Down Converter with Equalization  

0

0.5

1

1.5

2

2.5

3

15 20 25 30 35

EVM, %

°C

Up/Down converter EVM vs Temperature

EVM