網站首頁 編程語言 正文
有n組標本(1, 2, 3, 4), 每組由m個( , , ...)元素( , )組成(m值不定), . 各組樣本的分布 曲線如下圖所示. 通過程序近似實現各曲線與oc, cd直線圍成的?積.
思路
可以將圖像分成若干個梯形,每個梯形的底邊長為(Xn+1 - Xn-1),面積為矩形的一半,其面積 = (底邊長 X 高)/2,即S = (Xn+1 - Xn-1) * (Yn+1 + Yn+2),對于整個圖形,面積為所有梯形面積之和。
[圖片]求曲線與其下方x軸的面積,本質上是一個求積分的過程。可以對所有點進行積分,可以調用np.tapz(x, y)來求
代碼
"""Calculate the area between the coordinates and the X-axis
"""
import typing
from pandas import read_parquet
def calc_area(file_name: str) -> typing.Any:
"""?積計算.
Args:
file_name: parquet?件路徑, eg: data.parquet
Returns:
計算后的結果
"""
res = []
# Load data from .parquet
initial_data = read_parquet(file_name)
# Get number of groups
group_numbers = initial_data["gid"].drop_duplicates().unique()
# Loop through the results for each group
for i in group_numbers:
data = initial_data[initial_data["gid"] == i]
data = data.reset_index(drop=True)
# Extract the list of x\y
x_coordinates = data["x"]
y_coordinates = data["y"]
# Calculate area between (x[i], y[i]) and (x[i+1], y[i+1])
rect_areas = [
(x_coordinates[i + 1] - x_coordinates[i])
* (y_coordinates[i + 1] + y_coordinates[i])
/ 2
for i in range(len(x_coordinates) - 1)
]
# Sum the total area
result = sum(rect_areas)
res.append(result)
# Also we can use np for convenience
# import numpy as np
# result_np = np.trapz(y_coordinates, x_coordinates)
return res
calc_area("./data.parquet")
或者使用pyspark
"""Calculate the area between the coordinates and the X-axis
"""
import typing
from pyspark.sql import Window
from pyspark.sql.functions import lead, lit
from pyspark.sql import SparkSession
def calc_area(file_name: str) -> typing.Any:
"""?積計算.
Args:
file_name: parquet?件路徑, eg: data.parquet
Returns:
計算后的結果
"""
res = []
# Create a session with spark
spark = SparkSession.builder.appName("Area Calculation").getOrCreate()
# Load data from .parquet
initial_data = spark.read.parquet(file_name, header=True)
# Get number of groups
df_unique = initial_data.dropDuplicates(subset=["gid"]).select("gid")
group_numbers = df_unique.collect()
# Loop through the results for each group
for row in group_numbers:
# Select a set of data
data = initial_data.filter(initial_data["gid"] == row[0])
# Adds a column of delta_x to the data frame representing difference
# from the x value of an adjacent data point
window = Window.orderBy(data["x"])
data = data.withColumn("delta_x", lead("x").over(window) - data["x"])
# Calculated trapezoidal area
data = data.withColumn(
"trap",
(
data["delta_x"]
* (data["y"] + lit(0.5) * (lead("y").over(window) - data["y"]))
),
)
result = data.agg({"trap": "sum"}).collect()[0][0]
res.append(result)
return res
calc_area("./data.parquet")
提高計算的效率
- 可以使用更高效的算法,如自適應辛普森方法或者其他更快的積分方法
- 可以在數據上進行并行化處理,對pd DataFrame\spark DataFrame進行分區并使用分布式計算
- 在使用spark的時候可以為window操作制定分區來提高性能
- 以下為與本例無關的籠統的提高效率的方法
并行計算:使用多核CPU或分布式計算系統,將任務分解成多個子任務并行處理。
數據壓縮:壓縮大數據以減少存儲空間和帶寬,加快讀寫速度。
數據分塊:對大數據進行分塊處理,可以減小內存需求并加快處理速度。
緩存優化:優化緩存策略,減少磁盤訪問和讀取,提高計算效率。
算法優化:使用高效率的算法,比如基于樹的算法和矩陣算法,可以提高計算效率。?
原文鏈接:https://blog.csdn.net/majiayu000/article/details/129202642
- 上一篇:沒有了
- 下一篇:沒有了
相關推薦
- 2022-12-05 Python異常?ValueError的問題_python
- 2022-11-16 python3中requests庫重定向獲取URL_python
- 2022-08-01 C#中把FastReport.Net報表控件的數據保存到數據庫_C#教程
- 2022-11-26 React常見跨窗口通信方式實例詳解_React
- 2023-04-02 深入了解Go語言中web框架的中間件運行機制_Golang
- 2022-03-17 .NET?6開發TodoList應用引入第三方日志庫_實用技巧
- 2022-01-21 編程實現打印楊輝三角(要求使用一維數組處理)
- 2022-10-19 react編寫可編輯標題示例詳解_React
- 欄目分類
-
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支