TiDB and Amazon Aurora Compare / Contrast / Combine Ed Huang, CTO @ PingCAP h@pingcap.com TiDB Community Slack Channel https://pingcap.com/tidbslack/ Compare Why Aurora? ● Amazon Aurora is popular popular ● Amazon Aurora is designed for OLTP workload ● Amazon Aurora is still using the MySQL code base ● It would be cool to do some lightweight OLAP queries directly on the transactional database. ○ --db-driver=mysql oltp_common prepare --tables=16 --table-size=10000000 --auto-inc=false Thread TiDB 3.0 Amazon Aurora 150 158,908.53 496,746.62 300 279,335.92 727,939.27 600 422,278.72 763,700.65 900 484,304

2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Presenter: Haichen Shen, Yao Wang Amazon SageMaker Neo, Deep Engine Science Dynamic Model in TVM AWS AI© 2019, Amazon Web Services while loop Limitation of TVM/graph runtime ● Cannot compile and run dynamic models© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Support dynamic model in TVM ● Support Any-dim dispatch for a (sub-)graph In collaboration with Jared Roesch, Zhi Chen, Wei Chen© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. “Any” in Relay typing Any: represent an unknown

© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon/Intel Confidentia Presenter: Zhi Chen, Cody Yu Amazon SageMaker Neo, Deep Engine Science Bring Your Own Codegen to TVM TVM AWS AI© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Considering You... Design and manufacture a deep learning chip which achieves amazing performance on widely-used operators Suppression (NMS) is too new to be supported by your chip But NMS is supported by TVM!© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Let TVM Be the Compiler of Your Chip Your chip

© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Animesh Jain Amazon SageMaker Neo Compilation of Quantized Models in TVM AWS AI© 2019, Amazon Web Services, Inc. or its Affiliates 𝑟𝑒𝑎𝑙_𝑣𝑎𝑙𝑢𝑒 = 𝑠𝑐𝑎𝑙𝑒 ∗ (𝑞𝑢𝑎𝑛𝑡𝑖𝑧𝑒𝑑_𝑣𝑎𝑙𝑢𝑒 − 𝑧𝑒𝑟𝑜_𝑝𝑜𝑖𝑛𝑡)© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Quantization in TVM • Quantization within TVM pre-quantized graph in TFLite or MxNet • Use high-level wrapper ops of QNN dialect© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. TVM Overview Framework Graph Mxnet TF …. parsers

23 10/22 4/25 800MM Big Six* USA Technology Company CapEx *Apple, NVIDIA, Microsoft, Alphabet, Amazon (AWS only), & Meta Platforms Source: Capital IQ (3/25), Morgan Stanley 2014 2024 CapEx, $B +63% one can make. The magic of watching AI do your work for you feels like the early days of email and web search – technologies that fundamentally changed our world. The better / faster / cheaper impacts the installed based of smartphones & tablets in 2020. Cloud & data center capex includes Google, Amazon, Microsoft, Meta, Alibaba, Apple, IBM, Oracle, Tencent, & Baidu for ten years ending 2022. ‘Tens

© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Trademark Deploying GluonCV models using TVM© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Amazon Trademark Deploy GluonCV Models GluonCV Models MXNet Computational Graph Json Acyclic Graph Export As-is Optimize with TVM© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved reserved. Amazon Trademark Deploy GluonCV Models https://arxiv.org/pdf/1907.02154.pdf© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon Trademark Overall Performance AWS

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 660 4.14.4 Integrate TiDB with Amazon AppFlow · · · · · · · · · · · · · · · · · · · · · · · · · · · 679 5 Deploy 697 5.1 Software and requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 709 5.1.6 Web browser requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 711 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 799 6.4.1 Migrate Data from Amazon Aurora to TiDB· · · · · · · · · · · · · · · · · · · · · · · 799 6.4.2 Migrate Small Datasets from

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 654 4.14.4 Integrate TiDB with Amazon AppFlow · · · · · · · · · · · · · · · · · · · · · · · · · · · 674 5 Deploy 692 5.1 Software and requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 704 5.1.6 Web browser requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 706 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 794 6.4.1 Migrate Data from Amazon Aurora to TiDB· · · · · · · · · · · · · · · · · · · · · · · 794 6.4.2 Migrate Small Datasets from

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 570 4.13.4 Integrate TiDB with Amazon AppFlow · · · · · · · · · · · · · · · · · · · · · · · · · · · 590 5 Deploy 608 5.1 Software and requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 620 5.1.6 Web browser requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 622 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 716 6.4.1 Migrate Data from Amazon Aurora to TiDB· · · · · · · · · · · · · · · · · · · · · · · 716 6.4.2 Migrate Small Datasets from

· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 573 4.13.4 Integrate TiDB with Amazon AppFlow · · · · · · · · · · · · · · · · · · · · · · · · · · · 593 5 Deploy 611 5.1 Software and requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 623 5.1.6 Web browser requirements · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 625 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 719 6.4.1 Migrate Data from Amazon Aurora to TiDB· · · · · · · · · · · · · · · · · · · · · · · 719 6.4.2 Migrate Small Datasets from