当前位置 博文首页 > 利用python进行数据加载

    利用python进行数据加载

    作者:weixin_41832970 时间:2021-08-01 18:19

    前言

    最近参加了datawhale的组队学习活动,在组队学习动员下,开始通过强迫自己输出来实现更好的输入与处理,6-15开始自己的第一次文章发布,我会把自己这个真的很小白遇到的问题写出来,希望能给屏幕前小白的你带来帮助。

    工作中大量繁琐的自动化,把以前在学校摸过的python重新捡起来,不成体系的、拼图一样把需要的工作搭建起来,工作暂时是可用上了,每天节省了至少3个小时的数据处理工作,手里拿着python这个锤子,看什么都像钉子。

    首先,你要先学会安装软件,anaconda软件,安装成功后,你点击jupyter notebook打开代码框。

    现在可以开始尝试做数据分析了。

    一、数据加载

    1.1 载入数据

    数据集下载 https://www.kaggle.com/c/titanic/overview

    1.1.1 导入包

    导入numpy和pandas

    import pandas as pd
    import numpy as np

    如果出错了,需要注意大小写、有没有单词写错了

    1.1.2 载入数据

    (1) 使用相对路径载入数据
    (2) 使用绝对路径载入数据  

    df = pd.read_csv('train.csv')
    df.head(3)
    df = pd.read_csv('/Users/Documents/train.csv')
    df.head(3)

    注意绝对路径的 “  /  ” 方向不要错。

    1.1.3 大文件时要分块读取

    每1000行为一个数据模块,逐块读取

    chunker = pd.read_csv('train.csv', chunksize=1000)

    1.1.4

    对着整个表修改列名:将表头改成中文,索引改为乘客ID ,要注意的是,要记得把名字跟列一一对上,数量对上、顺序对上

    PassengerId => 乘客ID
    Survived => 是否幸存
    Pclass => 乘客等级(1/2/3等舱位)
    Name => 乘客姓名
    Sex => 性别
    Age => 年龄
    SibSp => 堂兄弟/妹个数
    Parch => 父母与小孩个数
    Ticket => 船票信息
    Fare => 票价
    Cabin => 客舱
    Embarked => 登船港口

    df = pd.read_csv('train.csv', names=['乘客ID','是否幸存','仓位等级','姓名','性别','年龄','兄弟姐妹个数','父母子女个数','船票信息','票价','客舱','登船港口'],index_col='乘客ID',header=0)
    df.head()
    

    1.2 初步观察

    导入数据后,我们可以对数据的整体结构和样例进行概览,比如说,数据大小、有多少列,各列都是什么格式的,是否包含null等。info 后面加()跟不加()会 有不同的内容。

    print(df.info())

    如想在python的查看数据,可以用head

    df.head(10)
    df.tail(15)

    判断数据是否为空,为空的地方返回True,其余地方返回False

    df.isnull().head()

    1.3 保存数据

    在工作目录下保存为一个新文件train_chinese.csv,如不希望表格自带index,可以加入index=false

    df.to_csv('train_chinese.csv',index=flase)

    jsjbwy
    下一篇:没有了