您是否想更好地了解傳統(tǒng)數(shù)據(jù)與大數(shù)據(jù)之間的區(qū)別，在哪里可以找到數(shù)據(jù)以及可以使用哪些技術(shù)來處理數(shù)據(jù)?

　　這些是處理數(shù)據(jù)時必須采取的第一步,，因此這是一個不錯的起點,，特別是如果您正在考慮從事數(shù)據(jù)科學職業(yè)!

　　“數(shù)據(jù)”是一個廣義術(shù)語，可以指“原始事實”,，“處理后的數(shù)據(jù)”或“信息”,。為了確保我們在同一頁面上，讓我們在進入細節(jié)之前將它們分開,。

　　我們收集原始數(shù)據(jù),，然后進行處理以獲得有意義的信息。

　　好吧,，將它們分開很容易!

　　現(xiàn)在,，讓我們進入細節(jié)!

　　原始數(shù)據(jù)(也稱為“ 原始 事實”或“ 原始 數(shù)據(jù)”)是您已累積并存儲在服務(wù)器上但未被觸及的數(shù)據(jù)。這意味著您無法立即對其進行分析,。我們將原始數(shù)據(jù)的收集稱為“數(shù)據(jù)收集”,，這是我們要做的第一件事。

　　什么是原始數(shù)據(jù)?

　　我們可以將數(shù)據(jù)視為傳統(tǒng)數(shù)據(jù)或大數(shù)據(jù),。如果您不熟悉此想法,，則可以想象包含分類和數(shù)字數(shù)據(jù)的表格形式的傳統(tǒng)數(shù)據(jù)。該數(shù)據(jù)被結(jié)構(gòu)化并存儲在可以從一臺計算機進行管理的數(shù)據(jù)庫中,。收集傳統(tǒng)數(shù)據(jù)的一種方法是對人進行調(diào)查,。要求他們以1到10的等級來評估他們對產(chǎn)品或體驗的滿意程度。

　　傳統(tǒng)數(shù)據(jù)是大多數(shù)人習慣的數(shù)據(jù),。例如,，“訂單管理”可幫助您跟蹤銷售，購買,，電子商務(wù)和工作訂單,。

　　但是，大數(shù)據(jù)則是另外一回事了,。

　　顧名思義,，“大數(shù)據(jù)”是為超大數(shù)據(jù)保留的術(shù)語。

　　您還會經(jīng)?？吹剿宰帜浮?V”為特征,。如“大數(shù)據(jù)的3V ”中所述。有時我們可以擁有5,、7甚至11個“ V”的大數(shù)據(jù),。它們可能包括– 您對大數(shù)據(jù)的愿景，大數(shù)據(jù)的價值，您使用的可視化工具或大數(shù)據(jù)一致性中的可變性,。等等…

　　但是,，以下是您必須記住的最重要的標準：

　　體積

　　大數(shù)據(jù)需要大量的存儲空間，通常在許多計算機之間分布,。其大小以TB,，PB甚至EB為單位

　　品種

　　在這里，我們不僅在談?wù)摂?shù)字和文字,。大數(shù)據(jù)通常意味著處理圖像,，音頻文件，移動數(shù)據(jù)等,。

　　速度

　　在處理大數(shù)據(jù)時,，目標是盡可能快地從中提取模式。我們在哪里遇到大數(shù)據(jù)?

　　答案是：在越來越多的行業(yè)和公司中,。這是一些著名的例子,。

　　作為最大的在線社區(qū)之一，“ Facebook”會跟蹤其用戶的姓名,，個人數(shù)據(jù),，照片，視頻,，錄制的消息等,。這意味著他們的數(shù)據(jù)種類繁多。全世界有20億用戶,，其服務(wù)器上存儲的數(shù)據(jù)量巨大,。

　　讓我們以“金融交易數(shù)據(jù)”為例。

　　當我們每5秒記錄一次股價時會發(fā)生什么?還是每一秒鐘?我們得到了一個龐大的數(shù)據(jù)集,，需要大量內(nèi)存,，磁盤空間和各種技術(shù)來從中提取有意義的信息,。

　　傳統(tǒng)數(shù)據(jù)和大數(shù)據(jù)都將為您提高客戶滿意度奠定堅實的基礎(chǔ),。但是這些數(shù)據(jù)會有問題，因此在進行其他任何操作之前,，您都必須對其進行處理,。

　　如何處理原始數(shù)據(jù)?

　　讓我們將原始數(shù)據(jù)變成美麗的東西!

　　在收集到足夠的原始 數(shù)據(jù)之后，要做的第一件事就是我們所謂的“數(shù)據(jù)預處理 ”,。這是一組操作,，會將原始數(shù)據(jù)轉(zhuǎn)換為更易理解且對進一步處理有用的格式。

　　我想這一步會擠在原始 數(shù)據(jù)和處理之間!也許我們應(yīng)該在這里添加一個部分...

　　數(shù)據(jù)預處理

　　那么,，“數(shù)據(jù)預處理”的目的是什么?

　　它試圖解決數(shù)據(jù)收集中可能出現(xiàn)的問題,。

　　例如，在您收集的某些客戶數(shù)據(jù)中，您可能有一個注冊年齡為932歲或“英國”為名字的人,。在進行任何分析之前,，您需要將此數(shù)據(jù)標記為無效或更正。這就是數(shù)據(jù)預處理的全部內(nèi)容!

　　讓我們研究一下在預處理傳統(tǒng)和大原始數(shù)據(jù)時應(yīng)用的技術(shù)嗎?

　　類標簽

　　這涉及將數(shù)據(jù)點標記為正確的數(shù)據(jù)類型,，換句話說,，按類別排列數(shù)據(jù)。

　　我們將傳統(tǒng)數(shù)據(jù)分為兩類：

　　一類是“數(shù)字” –如果您要存儲每天售出的商品數(shù)量,，那么您就在跟蹤數(shù)值,。這些是您可以操縱的數(shù)字。例如,，您可以計算出每天或每月銷售的平均商品數(shù)量,。

　　另一個標簽是“分類的” –在這里您正在處理數(shù)學無法處理的信息。例如,，一個人的職業(yè),。請記住，數(shù)據(jù)點仍然可以是數(shù)字,，而不是數(shù)字,。他們的出生日期是一個數(shù)字，您不能直接操縱它來給您更多的信息,。

　　考慮基本的客戶數(shù)據(jù),。*(使用的數(shù)據(jù)集來自我們的 SQL課程)

　　我們將使用包含有關(guān)客戶的文本信息的此表來給出數(shù)字變量和分類變量之間差異的清晰示例。

　　注意第一列,，它顯示了分配給不同客戶的ID,。您無法操縱這些數(shù)字?！捌骄?ID不會給您任何有用的信息,。這意味著，即使它們是數(shù)字,，它們也沒有數(shù)值,，并且是分類數(shù)據(jù)。

　　現(xiàn)在,，專注于最后一列,。這顯示了客戶提出投訴的次數(shù)。您可以操縱這些數(shù)字,。將它們加在一起以給出總數(shù)的投訴是有用的信息,，因此，它們是數(shù)字數(shù)據(jù),。

　　我們可以查看的另一個示例是每日歷史股價數(shù)據(jù),。

　　*這是我們在課程Python課程中使用的內(nèi)容,。

　　您在此處看到的數(shù)據(jù)集中，有一列包含觀察日期,，被視為分類數(shù)據(jù),。還有一列包含股票價格的數(shù)字數(shù)據(jù)。

　　當您使用大數(shù)據(jù)時,，事情會變得更加復雜,。除了“數(shù)字”和“分類”數(shù)據(jù)之外，您還有更多的選擇,，例如：

　　文字數(shù)據(jù)

　　數(shù)字圖像數(shù)據(jù)

　　數(shù)字視頻數(shù)據(jù)

　　和數(shù)字音頻數(shù)據(jù)

　　數(shù)據(jù)清理

　　也稱為“ 數(shù)據(jù)清理” 或“ 數(shù)據(jù)清理”,。

　　數(shù)據(jù)清理的目的是處理不一致的數(shù)據(jù)。這可以有多種形式,。假設(shè)您收集了包含美國各州的數(shù)據(jù)集,，并且四分之一的名稱拼寫錯誤。在這種情況下,，您必須執(zhí)行某些技術(shù)來糾正這些錯誤,。您必須清除數(shù)據(jù);線索就是名字!

　　大數(shù)據(jù)具有更多數(shù)據(jù)類型，并且它們具有更廣泛的數(shù)據(jù)清理方法,。有一些技術(shù)可以驗證數(shù)字圖像是否已準備好進行處理,。并且存在一些特定方法來確保文件的音頻 質(zhì)量足以繼續(xù)進行。

　　缺失值

　　“ 缺失的 價值觀”是您必須處理的其他事情,。并非每個客戶都會為您提供所需的所有數(shù)據(jù),。經(jīng)常會發(fā)生的是，客戶會給您他的名字和職業(yè),，而不是他的年齡,。在這種情況下您能做什么?

　　您是否應(yīng)該忽略客戶的整個記錄?還是您可以輸入其余客戶的平均年齡?

　　無論哪種最佳解決方案，都必須先清理數(shù)據(jù)并處理缺失值,，然后才能進一步處理數(shù)據(jù),。

　　處理傳統(tǒng)數(shù)據(jù)的技術(shù)

　　讓我們進入處理傳統(tǒng)數(shù)據(jù)的兩種常用技術(shù)。

　　平衡

　　想象一下,，您已經(jīng)編制了一份調(diào)查表,，以收集有關(guān)男女購物習慣的數(shù)據(jù)。假設(shè)您想確定誰在周末花了更多錢,。但是,，當您完成數(shù)據(jù)收集后，您會發(fā)現(xiàn)80%的受訪者是女性,，而只有20%是男性。

　　在這種情況下,，您發(fā)現(xiàn)的趨勢將更趨向于女性,。解決此問題的最佳方法是應(yīng)用平衡技術(shù)。例如，從每個組中抽取相等數(shù)量的受訪者,，則該比率為50/50,。

　　數(shù)據(jù)改組

　　從數(shù)據(jù)集中對觀察結(jié)果進行混洗就像對一副紙牌進行混洗一樣。這將確保您的數(shù)據(jù)集不會出現(xiàn)由于有問題的數(shù)據(jù)收集而導致的有害模式,。數(shù)據(jù)改組是一種改善預測性能并有助于避免產(chǎn)生誤導性結(jié)果的技術(shù),。

　　但是如何避免產(chǎn)生錯覺呢?

　　好吧，這是一個詳細的過程,，但概括地說,，混洗是一種使數(shù)據(jù)隨機化的方法。如果我從數(shù)據(jù)集中獲取前100個觀察值,，則不是隨機樣本,。最高的觀察值將首先被提取。如果我對數(shù)據(jù)進行混洗,，那么可以肯定的是,，當我連續(xù)輸入100個條目時，它們將是隨機的(并且很可能具有代表性),。

　　處理大數(shù)據(jù)的技術(shù)

　　讓我們看一下處理大數(shù)據(jù)的一些特定于案例的技術(shù),。

　　文本數(shù)據(jù)挖掘

　　想想以數(shù)字格式存儲的大量文本。嗯,，正在進行許多旨在從數(shù)字資源中提取特定文本信息的科學項目,。例如，您可能有一個數(shù)據(jù)庫,，該數(shù)據(jù)庫存儲了來自學術(shù)論文的有關(guān)“營銷支出”(您的研究主要主題)的信息,。大數(shù)據(jù)分析技術(shù)有哪些https://www.aaa-cg.com.cn/data/2272.html如果源的數(shù)量和數(shù)據(jù)庫中存儲的文本量足夠少，則可以輕松找到所需的信息,。通常,，盡管數(shù)據(jù)巨大。它可能包含來自學術(shù)論文,，博客文章,，在線平臺，私有excel文件等的信息,。

　　這意味著您將需要從許多來源中提取“營銷支出”信息,。換句話說，就是“大數(shù)據(jù)”,。

　　這不是一件容易的事,，這導致學者和從業(yè)人員開發(fā)出執(zhí)行“文本數(shù)據(jù)挖掘”的方法。

　　數(shù)據(jù)屏蔽

　　如果您想維持可靠的業(yè)務(wù)或政府活動,，則必須保留機密信息,。在線共享個人詳細信息時,，您必須對信息應(yīng)用一些“數(shù)據(jù)屏蔽”技術(shù)，以便您可以在不損害參與者隱私的情況下進行分析,。

　　像數(shù)據(jù)改組一樣,，“數(shù)據(jù)屏蔽”可能很復雜。它用隨機和假數(shù)據(jù)隱藏原始數(shù)據(jù),，并允許您進行分析并將所有機密信息保存在安全的地方,。將數(shù)據(jù)屏蔽應(yīng)用于大數(shù)據(jù)的一個示例是通過“機密性保留數(shù)據(jù)挖掘”技術(shù)。

　　完成數(shù)據(jù)處理后,，您將獲得所需的寶貴和有意義的信息,。我希望我們對傳統(tǒng)數(shù)據(jù)與大數(shù)據(jù)之間的差異以及我們?nèi)绾翁幚硭鼈冇兴私狻?/p>

https://www.toutiao.com/i6820650243210609166/