菜单

SQLServer导数据到Oracle

2019年3月22日 - MySQL

从SQLServer导数据到Oracle大概有以下两种方法:

        
近年来不难的对oracle,mysql,sqlserver贰零零伍的数额分页查询作了探讨,把各自的询问的语句贴出来供我们学习…..

  1. 运用SSMS的导出数据向导,使用Microsoft ODBC for Oracle或Oracle
    Provider for OLE DB连接受Oracle
  2. 导出到平面文件
  3. 导出包括数据的SQL脚本。
  4. 使用ETL工具。
  5. 和谐开发软件。

       (一)、** mysql的分页查询**

以下使用第叁种艺术来开始展览多少迁移的。

        mysql的分页查询是最简便易行的,借助关键字limit即可兑现查询,查询语句通式:

行使BCP合适导出大容积数据。那里导出千万级其他多少,也是全速就能成功。

/*

* sql:可以是单表的查询语句,也可以是多表的联合查询语句

* firstIndex:其实的索引

* pageSize:每页显示的记录数

*/

select o.* from (sql) o limit firstIndex,pageSize

假如导出时还索要做一些数目标处理,比如多表关联,字符处理等,相比复杂的逻辑,最佳是做成存款和储蓄进度,BCP直接调用存款和储蓄进程即可。

如上面的截图,每页显示的记录数为20:

BCP "exec TestDB.dbo.export_t1 " queryout d:\export\t1.txt -c -t"||" -S"192.168.1.100" -Urpt -Prpt123
pause

USE TestDB
GO

CREATE PROC [dbo].[export_usercar]
AS
    SELECT  [carId]
           ,CONVERT(NVARCHAR(30), [addTime], 120)
           ,CONVERT(NVARCHAR(30), [lastSearchTime], 120)
           ,CONVERT(NVARCHAR(30), [updateTime], 120)
           ,[carType]
           ,[userTelephone]
           ,[isCorrect]
           ,[userId]
           ,[validFlag]
           ,[Channel]
           ,[carCode]
           ,[engineNumber]
           ,[carNumber]
    FROM    [TestDB].[dbo].[t1] WITH ( NOLOCK )
    WHERE   validFlag = 1
            AND isCorrect = 1;

                                                
 查询(1-20)这20条记录
manbetx网页手机登录版 1

manbetx网页手机登录版,把导出文件上传到Oracle所在的主机上,如CentOS下。

                                             查询(21-40)这20条记录

使用Oracle的SQL*LOADEPRADO导入平面文件。假诺Oracle中有曾经创制好的表,与导入文本对应。

manbetx网页手机登录版 2

把以下的剧情用vi,写到import-t1.ctl

        mysql的分页查询就那样简单……

load data
CHARACTERSET 'ZHS16GBK'
infile '/data/import/t1.txt' "str '\r\n'"
into table SCOTT.T1
fields terminated by '||' TRAILING NULLCOLS
(
carId, 
addTime DATE "YYYY-MM-DD HH24:MI:SS",
lastSearchTime DATE "YYYY-MM-DD HH24:MI:SS",
updateTime DATE "YYYY-MM-DD HH24:MI:SS",
carType ,
userTelephone  ,
isCorrect  ,
userId  ,
validFlag ,
Channel ,
carCode  ,
engineNumber ,
carNumber  
)

  (二)、sqlserver二〇〇五的分页查询

使用SQL*LOADE君越注意多少个难题:

   
在sqlserver二〇〇五在此之前一贯依赖top关键字来落到实处分页查询,但是功能低,在sqlserver二零零六及其之后的本子都选用row_number()解析函数来完毕分页查询,功用有了非常大的增加,可是sql语句相比较复杂,下边给出分页查询的通式:

/*

* firstIndex:起始索引


* pageSize:每页显示的数量

* orderColumn:排序的字段名

* sql:可以是简单的单表查询语句,也可以是复杂的多表联合查询语句

*/

select top pageSize o.* from (select row_number() over(order by orderColumn) as rownumber,* from(sql) as o where rownumber>firstIndex;

选用sqlldr命令把数量导入到Oracle中。

 下边看截图,每页彰显20条记录数:

sqlldr user/"user_password" control=import-t1.ctl

                                                           
 查询(1-20)这20条记录

暗中同意下,生成的日记文件在当前目录下。无论成功与否,一定要翻开日志。看看是还是不是导入成功或破产,或是部分成功。导入的题材一般从日记文件即可找到。

manbetx网页手机登录版 3

假定有错误,还会扭转与导入文本同名的t1.bad文件。

                                                        
查询(21-40)这20条记录

以下是日记文件,呈现数据导入的一些音讯。成功导入了18495032行记录,没有导入退步的记录。

manbetx网页手机登录版 4

[oracle@ttoracle /data/import]$ cat import-t1.log 

SQL*Loader: Release 11.2.0.1.0 - Production on Fri Jun 15 12:46:09 2018

Copyright (c) 1982, 2009, Oracle and/or its affiliates.  All rights reserved.

Control File:   import-t1.ctl
Character Set ZHS16GBK specified for all input.

Data File:      /data/import/t1.txt
  File processing option string: "str '
'"
  Bad File:     t1.bad
  Discard File:  none specified

 (Allow all discards)

Number to load: ALL
Number to skip: 0
Errors allowed: 50
Bind array:     64 rows, maximum of 256000 bytes
Continuation:    none specified
Path used:      Conventional

Table SCOTT.T1, loaded from every logical record.
Insert option in effect for this table: INSERT
TRAILING NULLCOLS option in effect

   Column Name                  Position   Len  Term Encl Datatype
------------------------------ ---------- ----- ---- ---- ---------------------
CARID                               FIRST     *           CHARACTER            
    Terminator string : '||'
ADDTIME                              NEXT     *           DATE YYYY-MM-DD HH24:MI:SS
    Terminator string : '||'
LASTSEARCHTIME                       NEXT     *           DATE YYYY-MM-DD HH24:MI:SS
    Terminator string : '||'
UPDATETIME                           NEXT     *           DATE YYYY-MM-DD HH24:MI:SS
    Terminator string : '||'
CARTYPE                              NEXT     *           CHARACTER            
    Terminator string : '||'
USERTELEPHONE                        NEXT     *           CHARACTER            
    Terminator string : '||'
ISCORRECT                            NEXT     *           CHARACTER            
    Terminator string : '||'
USERID                               NEXT     *           CHARACTER            
    Terminator string : '||'
VALIDFLAG                            NEXT     *           CHARACTER            
    Terminator string : '||'
CHANNEL                              NEXT     *           CHARACTER            
    Terminator string : '||'
CARCODE                              NEXT     *           CHARACTER            
    Terminator string : '||'
ENGINENUMBER                         NEXT     *           CHARACTER            
    Terminator string : '||'
CARNUMBER                            NEXT     *           CHARACTER            
    Terminator string : '||'


Table SCOTT.T1:
  18495032 Rows successfully loaded.
  0 Rows not loaded due to data errors.
  0 Rows not loaded because all WHEN clauses were failed.
  0 Rows not loaded because all fields were null.


Space allocated for bind array:                 214656 bytes(64 rows)
Read   buffer bytes: 1048576

Total logical records skipped:          0
Total logical records read:      18495032
Total logical records rejected:         0
Total logical records discarded:        0

Run began on Fri Jun 15 12:46:09 2018
Run ended on Fri Jun 15 12:55:58 2018

Elapsed time was:     00:09:48.90
CPU time was:         00:03:37.62

    知道了sqlserver中的row_number函数,分页也就大致了…..

接纳平面文件迁移数据,最大麻烦是正是特殊字符,或是有垃圾堆数据。假诺原数据包涵与字符分隔符相同的字符,如那在那之中的“||”,或是有局地不可知的字符,如回车,换行符,等。那个字符会造成导入时,分割字段错位,导致导入错误,数据导不全,甚至导入失利。

  (三)、oracle分页查询

但从导出导入的快慢来说,是最快的,平面文件能够跨分裂的数据库举行搬迁。假如数据不容忍丢失,只好通过工具来导了,但速度会相对较慢。

   
接下来重点说说oracle的分页查询,oracle的分页查询格局绝对来说要多点,ROWNUM、row_number(),明天根本将二种作用稍好的分页查询语句。

    ①ROWNUM查询分页通式:

/*

* firstIndex:起始索引

* pageSize:每页显示的数量

* sql:可以是简单的单表查询语句,也可以是复杂的多表联合查询语句

*/
select * from(select a.*,ROWNUM rn from(sql) a where ROWNUM<=(firstIndex+pageSize)) where rn>firstIndex

以下截图是以那种方法开始展览的查询语句:

                                                          查询(1-21)这20条记录*****(没有ID=6的记录,所以查询到的最大ID为21)
manbetx网页手机登录版 5

                                                    
  查询(22-41)这20条记录*****(没有ID=6的笔录,所以开始询问到的ID为22,以及最大ID为41)

manbetx网页手机登录版 6

 

    ②row_number()解析函数分页查询通式:

 /*

 * firstIndex:起始索引

 * pageSize:每页显示的数量

 * orderColumn:排序的字段名

 * sql:可以是简单的单表查询语句,也可以是复杂的多表联合查询语句

 */
select * from(select * from(select t.*,row_number() over(order by orderColumn) as rownumber from(sql) t) p where p.rownumber>firstIndex) where rownum<=pageSize

 以下截图是运用row_number()形式的分页查询效率:

                                                         
查询(1-21)这20条记录*****(没有ID=6的笔录,所以查询到的最大ID为21)
manbetx网页手机登录版 7

                                                   
查询(22-41)这20条记录*****(没有ID=6的记录,所以先导询问到的ID为22,以及最大ID为41)

manbetx网页手机登录版 8

      对于oracle的分页查询,特地选出那三种实现格局是因为那四头各有千秋

     首先, 大家掌握在ROWNUM查询的章程中,在其次层的sql语句中有个”where
ROWNUM<firstIndex+pageSize”,依据oracle的条件,第②层查询语句会嵌入到最内层中开始展览查询,相当于说,最初始实施的查询语句看似于:select
* from wyuse where rownum<(firstIndex+pageSize) order by id
asc,从数据表中查询出(firstIndex+pageSize)条记下,所以一旦这几个值极小的话,功用会很好,借使对于大数据量的表单,那么些值假设是上千,比如:select
* from wyuse where rownum<(伍仟) order by id
asc,那样一初步会选出四千条记下,功能自然会慢很多….

    
不过,相对于ROWNUM,row_number()格局只怕通过简化能够少一层嵌套,可是貌似对于大数据的查询,效用也高不到何地去…..然则,对于大数目如若为表建立索引再组成row_number()效果会很好(未测试)

相关文章

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图