.NET使用EF批量插入数据,一行代码性能飙升!
  rffnbXSaNCGB 2023年11月02日 122 0

背景

小编最近接到一个任务,批量获取内部网站用TXT生成的日志,在闲时把日志插入到MySql数据库做分析。为了快速开发小编选择了Entity Framework Core,很快开发完成了。测试数据不是很多,批量插入数据很快完成,效率很高。但是部署到线上问题来了,最开始也挺快,越到后面越慢,慢的无法接受。于是查询了一下官网和某度,只需加一句代码就可以让EF批量插入数据飙升。

代码示例

开始的批量添加代码:

public async void AddRangeAsync(List<T> entities)
{
    await _dbContext.AddRangeAsync(entities);
    await _dbContext.SaveChangesAsync();
}

在以上方法增加一行,如下:

public async void AddRangeAsync(List<T> entities)
{
    //批量添加需要将AutoDetectChangesEnabled给位false
    _dbContext.ChangeTracker.AutoDetectChangesEnabled = false;
    await _dbContext.AddRangeAsync(entities);
    await _dbContext.SaveChangesAsync();
}

原理

微软的解释:“AutoDetectChangesEnabled默认值为 true。这可确保上下文在执行操作(例如 SaveChanges() 或返回更改跟踪信息)之前了解对跟踪实体实例所做的任何更改。如果禁用自动检测更改, DetectChanges() 则必须确保在修改实体实例时调用 。如果不这样做,可能会导致某些更改在返回或返回过时的更改跟踪信息期间 SaveChanges() 无法持久保存”[1]

这是啥意思呢?ChangeTracker的AutoDetectChangesEnabled属性是Entity Framework中的一个属性,用于控制是否自动检测实体的更改。默认情况下,AutoDetectChangesEnabled属性的值为true,即自动检测更改。每次对实体进行更改(添加、删除、更新)时,Entity Framework会自动检测这些更改,并将其标记为“已更改”。这样,在调用SaveChanges方法时,Entity Framework会自动将这些更改应用到数据库中。

当AutoDetectChangesEnabled属性的值为true时,将对EF的性能造成一定的影响,尤其是批量插入数据。对于插入操作,无论AutoDetectChangesEnabled的值为true还是false,都可以成功插入数据。因为插入操作本身就是一种新增操作,无需进行实体的更改检测。所以在批量插入时,建议把AutoDetectChangesEnabled设置为false。

设置为false具体对操作的数据有没有影响呢?答案是肯定的,分情况。如果插入数据后有上下文操作,那么上下文不会自动更新实体的状态,如果没有后续操作可以忽略。这就需要手动调用DetectChanges方法或将实体状态设置为“已更改”才能使上下文与数据库同步。建议批量插入数据结束时,把AutoDetectChangesEnabled的值改为true。

**结语
**

本文讲述了.NET用EF批量插入数据,改进性能的简单方法。当然还有很多方法,比如可以使用EF批量添加扩展,可以在EF中执行SQL插入语句,还可以用EF执行存储过程的方式批量添加(SQL Server实验过,MySql未实验)等,大家还有啥好方法可以留言。日志分析建议大家用mangodb或者ES等数据库,本案例只是临时数据分析。希望本文对你有所收获,欢迎留言或者吐槽。

参考资料

[1] https://learn.microsoft.com/zh-cn/dotnet/api/microsoft.entityframeworkcore.changetracking.changetracker.autodetectchangesenabled?view=efcore-7.0#microsoft-entityframeworkcore-changetracking-changetracker-autodetectchangesenabled


来源公众号:DotNet开发跳槽
【版权声明】本文内容来自摩杜云社区用户原创、第三方投稿、转载,内容版权归原作者所有。本网站的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@moduyun.com

  1. 分享:
最后一次编辑于 2023年11月08日 0

暂无评论

推荐阅读
  NPQODODLqddb   2024年05月17日   69   0   0 .NET
  mVIyUuLhKsxa   2024年05月17日   53   0   0 .NET
  XkHDHG7Y62UM   2024年05月17日   45   0   0 .NET
  f18CFixvrKz8   2024年05月18日   86   0   0 .NET
  rBgzkhl6abbw   2024年05月18日   78   0   0 .NET
  MYrYhn3ObP4r   2024年05月17日   41   0   0 .NET
  S34pIcuyyIVd   2024年05月17日   60   0   0 .NET
  gKJ2xtp6I8Y7   2024年05月17日   50   0   0 .NET
  MYrYhn3ObP4r   2024年05月17日   39   0   0 .NET
rffnbXSaNCGB