大容量csv快速內導入sqlserver的解決方法(推薦)

投稿：mrr 字體：[增加 減小] 類型：轉載 時間：2017-07-24 我要評論

最近遇到這樣的問題：導入csv 數據，並對導入的數據增加一個新的列date datetime，下面通過本文給大家分享大容量csv快速內導入sqlserver的解決方法，感興趣的朋友一起看看吧

前言

在論壇中回答了一個問題，導入csv 數據，並對導入的數據增加一個新的列date datetime。要求在10s內完成，200w行數據的導入.分享下解決問題的思路和方法

分析

通常來講Bulk insert 比 BCP 更快一點，我們選擇Bulk insert的方式。 提出的解決方案：先把數據導入到sql server 的臨時表，然後再插入目標表。 具體語句如下：

bulk insert test07232 from 'D:\2017-7-22.csv' WITH ( FIELDTERMINATOR = ',', ROWTERMINATOR = '/n' )
SELECT * ,GETDATE() AS Date INTO ttt FROM test07232

但是他提供的的csv 進行導入時，提示如下錯誤

消息 4866，級別 16，狀態 1，第 1 行 大容量加載失敗。數據文件中第 1 行的第 2 列太長。請驗證是否正確指定了字段終止符和行終止符。 消息 7399，級別 16，狀態 1，第 1 行 鏈接服務器 "(null)" 的 OLE DB 訪問接口 "BULK" 報錯。提供程序未給出有關錯誤的任何信息。

消息 7330，級別 16，狀態 2，第 1 行 無法從鏈接服務器 "(null)" 的 OLE DB 訪問接口"BULK"提取行。

這是由於行終止符無法識別導致的。使用notepad++打開csv文件，在視圖中選擇顯示行尾號。

可以看到文件的換行符是LF

而對於正常的csv問題 默認是用CRLF作為換行符的

因此上面的bulk insert 語句無法正常執行。

解決

1.首先想到的是修改數據源頭，讓源頭產生正常的數據，但是源頭數據不好修改 2.用程序，寫c#處理，，太費時間 3.最後終於找到了正確的辦法

bulk insert test07232 from 'D:\2017-7-22.csv' WITH ( FIELDTERMINATOR = ',', ROWTERMINATOR = '0x0a' )
SELECT * ,GETDATE() AS Date INTO ttt FROM test07232

最後全部都在SSD 上，導入用時2s。生產正式表1s 。整個過程3s完成。

總結

解決問題要從各個問題入手，找到原因才更好的解決問題

總結

以上所述是小編給大家介紹的大容量csv快速內導入sqlserver的解決方法，希望對大家有所幫助，如果大家有任何疑問請給我留言，小編會及時回復大家的。在此也非常感謝大家對 網站的支持！