C# 使用C在mysql中插入海量流数据#
我使用Mysql,需要插入大量数据。数据以5k行列表的形式流式传输到我的服务器。我需要插入超过3k的请求,这意味着3k请求*5k行=15000行 我所做的是使用这些线程创建线程和插入,因为数据在异步事件中以5k的数据包形式出现。数据响应是根据我的请求生成的 记住这种情况,最好的方法是什么C# 使用C在mysql中插入海量流数据#,c#,.net,mysql,multithreading,insert,C#,.net,Mysql,Multithreading,Insert,我使用Mysql,需要插入大量数据。数据以5k行列表的形式流式传输到我的服务器。我需要插入超过3k的请求,这意味着3k请求*5k行=15000行 我所做的是使用这些线程创建线程和插入,因为数据在异步事件中以5k的数据包形式出现。数据响应是根据我的请求生成的 记住这种情况,最好的方法是什么 线程池用于线程管理或简单的多线程应用程序,在插入时线程将受益,因为我需要在单个表中插入(Innodb引擎)您可以在服务器上缓存传入的请求。在内存中保留一些缓冲数据,直到收到N个请求(稍后可以进行微调)。一旦获得
线程池用于线程管理或简单的多线程应用程序,在插入时线程将受益,因为我需要在单个表中插入(Innodb引擎)您可以在服务器上缓存传入的请求。在内存中保留一些缓冲数据,直到收到N个请求(稍后可以进行微调)。一旦获得这些数据,您就可以使用一些批量插入例程将数据刷新到MySql中。一般来说,一次大的插入比多次小的插入要快得多 您可以使用类在服务器上保存数据。这是一个线程安全的集合
此外,您可能需要根据时间使缓存过期。这将涵盖以下情况:您收到一些请求n
此外,您可能需要根据时间使缓存过期。这将涵盖以下情况:您收到一些请求n