AWS Athena 分析日志
admin
2023-04-09 15:43:16
0

AWS里面可以用Athena来分析S3里面保存的日志,他把日志转换成数据库表的格式,这样就可以通过sql语句进行查询了。这个功能和在windows服务器上用logparser来分析Exchange或者IIS的日志很相似。

下面做个演示,通过Cloudtrail记录管理日志,然后通过Athena来查询日志内容。

首先选择CloudTrail, CloudTrail 是一个日志记录的服务,他和cloudwatch的区别在于这个服务更多是侧重于审计,他的内容都是关于什么时候,什么账号,从什么IP上进行了什么操作。

AWS Athena 分析日志

点击 Create Trail

AWS Athena 分析日志

取个名字, 创建一个新的S3 bucket来保存日志

AWS Athena 分析日志

创建好之后可以看见他自动已经在记录最新的日志了

AWS Athena 分析日志

然后选择 Athena

AWS Athena 分析日志

跳过向导,直接进入查询器的编辑器,这里是编辑SQL语句的地方。这里我直接创建一个的数据库

AWS Athena 分析日志

下面来创建一个表,从指定的S3 Bucket里面获取数据。
我们可以通过向导创建,但是比较繁琐

AWS Athena 分析日志

比较容易的是通过脚本创建,注意最后一行S3存储桶的地址

CREATE EXTERNAL TABLE cloudtrail_logs (
eventversion STRING,
useridentity STRUCT<
               type:STRING,
               principalid:STRING,
               arn:STRING,
               accountid:STRING,
               invokedby:STRING,
               accesskeyid:STRING,
               userName:STRING,
sessioncontext:STRUCT<
attributes:STRUCT<
               mfaauthenticated:STRING,
               creationdate:STRING>,
sessionissuer:STRUCT<  
               type:STRING,
               principalId:STRING,
               arn:STRING, 
               accountId:STRING,
               userName:STRING>>>,
eventtime STRING,
eventsource STRING,
eventname STRING,
awsregion STRING,
sourceipaddress STRING,
useragent STRING,
errorcode STRING,
errormessage STRING,
requestparameters STRING,
responseelements STRING,
additionaleventdata STRING,
requestid STRING,
eventid STRING,
resources ARRAY>,
eventtype STRING,
apiversion STRING,
readonly STRING,
recipientaccountid STRING,
serviceeventdetails STRING,
sharedeventid STRING,
vpcendpointid STRING
)
ROW FORMAT SERDE 'com.amazon.emr.hive.serde.CloudTrailSerde'
STORED AS INPUTFORMAT 'com.amazon.emr.cloudtrail.CloudTrailInputFormat'
OUTPUTFORMAT 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'
LOCATION 's3://mycloudtrailbucket-faye/AWSLogs/757250003982/';

AWS Athena 分析日志

创建表成功的样子

AWS Athena 分析日志

下面我们可以进行一个简单的查询,结果如下。

AWS Athena 分析日志

相关内容

热门资讯

终于了解“全民内蒙古麻将辅助器... 有 亲,根据资深记者爆料全民内蒙古麻将是可以开挂的,确实有挂(咨询软件无...
【第一消息】“飞鹰炸/金/花怎... 网上科普关于“飞鹰炸/金/花有没有挂”话题很是火热,小编也是针对飞鹰炸/金/花作*弊开挂的方法以及开...
最新引进“胡乐麻将到底是不是挂... 有 亲,根据资深记者爆料胡乐麻将是可以开挂的,确实有挂(咨询软件无需打开...
【第一财经】“开心安徽比鸡有没... 家人们!今天小编来为大家解答开心安徽比鸡透视挂怎么安装这个问题咨询软件客服徽9752949的挂在哪里...
终于懂了“新起点可以开挂吗?”... 终于懂了“新起点可以开挂吗?”(太坑了原来有挂)您好,新起点这个游戏其实有挂的,确实是有挂的,需要了...
【第一财经】“昆明文山麻将有挂... 网上科普关于“昆明文山麻将有没有挂”话题很是火热,小编也是针对昆明文山麻将作*弊开挂的方法以及开挂对...
【第一财经】“竞技圈究竟有挂吗... 网上科普关于“竞技圈有没有挂”话题很是火热,小编也是针对竞技圈作*弊开挂的方法以及开挂对应的知识点,...
最新引进“新青鸟大厅拼三张怎么... 网上科普关于“新青鸟大厅拼三张有没有挂”话题很是火热,小编也是针对新青鸟大厅拼三张作*弊开挂的方法以...
最新引进“新青鸟拼三张开挂器?... 最新引进“新青鸟拼三张开挂器?”(详细开挂教程)您好,新青鸟拼三张这个游戏其实有挂的,确实是有挂的,...
今日重磅消息“胡乐晋中麻将究竟... 今日重磅消息“胡乐晋中麻将究竟有挂吗?”(外卦神器下载)您好,胡乐晋中麻将这个游戏其实有挂的,确实是...