datastage获取csv文件,并插入数据库
admin
2023-04-21 21:42:31
0

datastage操作流程

文档创建人: 月夜枫

日期:20180112

版本:V1.0

1、处理文件

本次项目的源文件来源于10.126.124.39服务器,39服务器并未开启ftp功能,但是开启了目录共享功能.

1.1、使用bat批处理脚本先将源数据拷贝到本地服务器10.126.124.14
1.2、同时将多个文件进行合并,方便后续datastage调用,提高效率,否则需要多次运行datastagejob

datastage获取csv文件,并插入数据库

2、创建job,准备全局job参数

创建job,对job进行参数配置,主要包含:链接服务器参数,链接数据库参数,在数据转换过程中需要的系统参数

datastage获取csv文件,并插入数据库

3、创建ftp源组件

3.1、在job界面,palette栏,获取一个process相关组件Ftp,设置 properties参数

datastage获取csv文件,并插入数据库

注:connect参数是源文件所在服务器的ftp的登陆账号密码,需要网络管理员设置。

3.2Format参数设置

datastage获取csv文件,并插入数据库

3.3column参数设置,选择自己创建的table difination,自动引入,在4.1有具体创建步骤

datastage获取csv文件,并插入数据库

3.4、配置好参数,检查配置问题。

3.1图中,有一个view data,若配置成功,则可以通过在此可以读取到数据。

注:若出现中文乱码,在下面进行更改字符集

点击下面按键更改


datastage获取csv文件,并插入数据库

选择NLS,更改字符集

 datastage获取csv文件,并插入数据库

4、创建Nettza数据库目标组件

4.1、需要创建一个nettza数据库对应的table difinition组件,保存在对应的目录底下,后续使用。

创建步骤:在主页面

import-à table difinition-à Start Connector Import Wizard -à Nettza Connector

-à录入账号密码地址等相关信息 -à选择需要的表,或已经创建的表

4.2、创建数据库目标组件

job界面,palette栏,获取一个database选择nettza connector,配置相关参数

datastage获取csv文件,并插入数据库

配置column参数和3.3方式一样,再此不重复讲解。

 

5、创建transformer转换规则

创建transformer,job界面,palette栏,获取两个link箭头按照数据扭转方向进行连接三个组件。

设置transformer的参数

1、需要点击下图按钮1进行组件column11关联

2、若需要对目标表的数据进行处理选择下图2的地方进行选择,可以更改数据类型,对目标数据进行转换等操作

datastage获取csv文件,并插入数据库

 

6、测试

保存文件,编译,运行,录入参数进行运行,根据日志进行测试,排查bug

datastage获取csv文件,并插入数据库

7、制作windows定时任务

1、进入定时任务管理器

开始,控制面板,系统和安全,管理工具,任务计划,打开之后

界面如下

右键“任务计划程序”,创建任务,录入任务名称和描述

最后需要录入管理员账户密码

datastage获取csv文件,并插入数据库


2、更改定时任务

双击点开任务的属性,注意更改属性为不管是否登陆与否都要运行,并使用最高权限运行。

datastage获取csv文件,并插入数据库

相关内容

热门资讯

珠海冠宇获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示珠海冠宇(688772)新获得一项发明专利授权,专利名为“一种...
大华申请数据写入方法专利,提高... 国家知识产权局信息显示,浙江大华技术股份有限公司申请一项名为“数据写入方法、电子设备及计算机可读存储...
现在,赖清德更焦虑了 执笔/月半刀&宝刀刀&胡一刀5月13日,美国总统特朗普将开启访华行程。外界高度关注此次会晤中双方将如...
燃气发电与电池储能相结合,成为... 来源:市场资讯 (来源:i商周) 孟菲斯一座xAI数据中心的燃气轮机 人工智能的用电飙升,让数据中心...
景嘉微:JM11性能大幅提升,... 有投资者在互动平台向景嘉微提问:“董秘您好!关注到近期有用户反馈公司JM11显卡推出了适配windo...
原创 v... 影像的发展进一步推动,不少品牌推出了专业影像手机,拥有2亿像素摄像头、色彩还原摄像头、影像芯片、影像...
荣耀首款自研耳夹式耳机官宣即将... 快科技5月13日消息,日前,荣耀首席营销官关海涛宣布,荣耀全场景团队自研首款耳夹式耳机马上上市,并称...
谷歌推出Googlebooks... IT之家 5 月 13 日消息,2026 年 I/O 开发者大会下周(5 月 19~20 日)召开之...
自控所推动GNC专业智能化升级 来源:滚动播报 (来源:中国航空报) 本报讯 5月6日,航空工业自控所召开 GNC+AI关键技术研发...
华电电力申请数据库访问方法专利... 国家知识产权局信息显示,华电电力科学研究院有限公司申请一项名为“数据库访问方法、装置、设备及介质”的...