Data Science Python 5

import%20marimo%0A%0A__generated_with%20%3D%20%220.17.6%22%0Aapp%20%3D%20marimo.App()%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20return%20(mo%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20nav_menu%20%3D%20mo.nav_menu(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%2Findex.html%22%3A%20f%22%7Bmo.icon('lucide%3Ahome')%7D%20Home%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20orientation%3D%22vertical%22%2C%0A%20%20%20%20)%0A%20%20%20%20nav_menu%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Mini-Project%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Goal%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20This%20mini%20project%20focuses%20on%20practicing%20machine%20learning%20and%20data%20visualization.%20The%20goal%20is%20to%20explore%20the%20%5Bfootball%20match%20dataset%5D(https%3A%2F%2Fgithub.com%2Fxgabora%2FClub-Football-Match-Data-2000-2025)%2C%20uncover%20interesting%20patterns%2C%20and%20tell%20a%20compelling%20story%20based%20on%20the%20findings.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Import%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20pandas%20as%20pd%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20from%20mpl_toolkits.mplot3d%20import%20Axes3D%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20import%20seaborn%20as%20sns%0A%20%20%20%20import%20statsmodels.api%20as%20sm%0A%20%20%20%20from%20collections%20import%20defaultdict%0A%20%20%20%20from%20scipy.stats%20import%20ttest_ind%0A%20%20%20%20from%20xgboost%20import%20XGBClassifier%0A%20%20%20%20from%20sklearn.pipeline%20import%20Pipeline%0A%20%20%20%20from%20sklearn.linear_model%20import%20LogisticRegression%0A%20%20%20%20from%20sklearn.preprocessing%20import%20StandardScaler%2C%20LabelEncoder%0A%20%20%20%20from%20sklearn.model_selection%20import%20train_test_split%2C%20GridSearchCV%0A%20%20%20%20from%20sklearn.metrics%20import%20(%0A%20%20%20%20%20%20%20%20make_scorer%2C%0A%20%20%20%20%20%20%20%20ConfusionMatrixDisplay%2C%0A%20%20%20%20%20%20%20%20classification_report%2C%0A%20%20%20%20%20%20%20%20precision_score%2C%0A%20%20%20%20)%0A%20%20%20%20import%20os%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20ConfusionMatrixDisplay%2C%0A%20%20%20%20%20%20%20%20GridSearchCV%2C%0A%20%20%20%20%20%20%20%20LabelEncoder%2C%0A%20%20%20%20%20%20%20%20LogisticRegression%2C%0A%20%20%20%20%20%20%20%20Pipeline%2C%0A%20%20%20%20%20%20%20%20StandardScaler%2C%0A%20%20%20%20%20%20%20%20XGBClassifier%2C%0A%20%20%20%20%20%20%20%20classification_report%2C%0A%20%20%20%20%20%20%20%20defaultdict%2C%0A%20%20%20%20%20%20%20%20make_scorer%2C%0A%20%20%20%20%20%20%20%20np%2C%0A%20%20%20%20%20%20%20%20pd%2C%0A%20%20%20%20%20%20%20%20plt%2C%0A%20%20%20%20%20%20%20%20precision_score%2C%0A%20%20%20%20%20%20%20%20sm%2C%0A%20%20%20%20%20%20%20%20sns%2C%0A%20%20%20%20%20%20%20%20train_test_split%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Load%20Data%20and%20Pre-Processing%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(pd)%3A%0A%20%20%20%20url%20%3D%20%22https%3A%2F%2Fraw.githubusercontent.com%2Fxgabora%2FClub-Football-Match-Data-2000-2025%2Frefs%2Fheads%2Fmain%2Fdata%2FMatches.csv%22%0A%20%20%20%20Matches%20%3D%20pd.read_csv(url)%0A%20%20%20%20Matches%5B%22MatchDate%22%5D%20%3D%20pd.to_datetime(Matches%5B%22MatchDate%22%5D)%0A%20%20%20%20return%20(Matches%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Let's%20first%20check%20if%20there%20are%20null%20values%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(Matches)%3A%0A%20%20%20%20percentage_nan%20%3D%20(Matches.isna().mean()).sort_values()%0A%20%20%20%20print(percentage_nan)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(Matches)%3A%0A%20%20%20%20missing_percentage_by_division%20%3D%20Matches.drop(columns%3D%22Division%22).groupby(Matches%5B%22Division%22%5D).apply(lambda%20x%3A%20x.isna().mean()).sort_index()%0A%20%20%20%20missing_percentage_by_division.mean(axis%3D1).sort_values()%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Well%2C%20some%20of%20the%20columns%20have%20so%20many%20NaN%20values.%20Fortunately%2C%20some%20divisions%20have%20little%20missing%20values%20(guess%20they%20are%20the%20only%20ones%20that%20can%20afford%20archivists%3F).%20Let's%20focus%20on%20E0%2C%20the%20English%20Premier%20League%2C%20for%20now.%20Since%20there%20are%20not%20much%20missing%20values%2C%20let%20us%20for%20simplicity%20just%20drop%20rows%20with%20missing%20values.%20%60MatchTime%60%20is%20one%20of%20the%20only%20columns%20with%20large%20number%20of%20null%20values%20in%20this%20division%2C%20again%20for%20simplicity%2C%20let's%20just%20drop%20it%20for%20now.%0A%20%20%20%20Some%20other%20simple%20data-cleansings%20and%20validations%20are%20also%20performed.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(Matches)%3A%0A%20%20%20%20England_Matches%20%3D%20Matches%5B(Matches%5B%22Division%22%5D%20%3D%3D%20%22E0%22)%5D.copy()%0A%20%20%20%20England_Matches.drop(columns%3D%5B%22MatchTime%22%5D%2C%20inplace%3DTrue)%0A%20%20%20%20England_Matches.dropna(inplace%3DTrue)%0A%0A%20%20%20%20%23%20make%20sure%20the%20data%20makes%20sense%3A%20shot%20should%20be%20larger%20than%20target%0A%20%20%20%20England_Matches%20%3D%20England_Matches%5B%0A%20%20%20%20%20%20%20%20(England_Matches%5B%22HomeShots%22%5D%20%3E%3D%20England_Matches%5B%22HomeTarget%22%5D)%20%26%20(England_Matches%5B%22AwayShots%22%5D%20%3E%3D%20England_Matches%5B%22AwayTarget%22%5D)%0A%20%20%20%20%5D%0A%0A%20%20%20%20%23%20card%20should%20not%20be%20nagative%0A%20%20%20%20England_Matches%20%3D%20England_Matches%5B%0A%20%20%20%20%20%20%20%20(England_Matches%5B%22HomeYellow%22%5D%20%3E%3D%200)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayYellow%22%5D%20%3E%3D%200)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22HomeRed%22%5D%20%3E%3D%200)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayRed%22%5D%20%3E%3D%200)%0A%20%20%20%20%5D%0A%0A%20%20%20%20%23%20Total%20shots%20and%20on-target%20shots%20should%20be%20non-negative%3A%0A%20%20%20%20England_Matches%20%3D%20England_Matches%5B%0A%20%20%20%20%20%20%20%20(England_Matches%5B%22HomeShots%22%5D%20%3E%3D%200)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayShots%22%5D%20%3E%3D%200)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22HomeTarget%22%5D%20%3E%3D%200)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayTarget%22%5D%20%3E%3D%200)%0A%20%20%20%20%5D%0A%0A%20%20%20%20%23%20Goals%20should%20not%20be%20negative%3A%0A%20%20%20%20England_Matches%20%3D%20England_Matches%5B%0A%20%20%20%20%20%20%20%20(England_Matches%5B%22FTHome%22%5D%20%3E%3D%200)%20%26%20(England_Matches%5B%22FTAway%22%5D%20%3E%3D%200)%20%26%20(England_Matches%5B%22HTHome%22%5D%20%3E%3D%200)%20%26%20(England_Matches%5B%22HTAway%22%5D%20%3E%3D%200)%0A%20%20%20%20%5D%0A%0A%20%20%20%20%23%20Odds%20should%20be%20%3E%201%0A%20%20%20%20odds_cols%20%3D%20%5B%22OddHome%22%2C%20%22OddDraw%22%2C%20%22OddAway%22%2C%20%22MaxHome%22%2C%20%22MaxDraw%22%2C%20%22MaxAway%22%5D%0A%20%20%20%20for%20odd_col%20in%20odds_cols%3A%0A%20%20%20%20%20%20%20%20England_Matches%20%3D%20England_Matches%5BEngland_Matches%5Bodd_col%5D%20%3E%201%5D%0A%0A%20%20%20%20England_Matches%0A%20%20%20%20return%20(England_Matches%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Wonderful%2C%20so%20we%20have%20above%207k5%20rows%20of%20data%20to%20play%20with%2C%20not%20bad!%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Elo%20and%20Winning%20Probability%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20One%20thing%20that%20first%20comes%20to%20my%20mind%20is%20to%20explore%20Elo.%20Let%20us%20look%20at%20what%20are%20the%20teams%20with%20the%20highest%20Elo%2C%20and%20how%20are%20their%20Elo%20evolving.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches%2C%20plt%2C%20sns)%3A%0A%20%20%20%20top_teams%20%3D%20(England_Matches%5B%5B%22HomeTeam%22%2C%20%22HomeElo%22%5D%5D.sort_values(by%3D%22HomeElo%22).tail(100))%5B%22HomeTeam%22%5D.value_counts()%0A%0A%20%20%20%20top_teams.plot(kind%3D%22barh%22%2C%20figsize%3D(10%2C%205))%0A%20%20%20%20plt.xlabel(%22Count%22)%0A%20%20%20%20plt.title(%22Home%20Teams%20with%20100%20Highest%20HomeElo%22)%0A%20%20%20%20plt.gca().invert_yaxis()%0A%20%20%20%20plt.show()%0A%0A%20%20%20%20top_teams%20%3D%20(England_Matches%5B%5B%22HomeTeam%22%2C%20%22HomeElo%22%5D%5D.sort_values(by%3D%22HomeElo%22).tail(100))%5B%22HomeTeam%22%5D.value_counts().index%0A%0A%20%20%20%20filtered%20%3D%20England_Matches%5BEngland_Matches%5B%22HomeTeam%22%5D.isin(top_teams)%5D.dropna(subset%3D%5B%22HomeElo%22%2C%20%22MatchDate%22%5D)%0A%0A%20%20%20%20plt.figure(figsize%3D(10%2C%205))%0A%20%20%20%20sns.lineplot(data%3Dfiltered%2C%20x%3D%22MatchDate%22%2C%20y%3D%22HomeElo%22%2C%20hue%3D%22HomeTeam%22)%0A%20%20%20%20plt.title(%22Home%20Elo%20over%20Time%20for%20Top%20Frequent%20High-Elo%20Teams%22)%0A%20%20%20%20plt.show()%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Not%20a%20football%20fan%20but%20these%20are%20definitely%20big%20names.%20One%20thing%20immediately%20comes%20to%20my%20mind%20is%20that%20Elo%20is%20probably%20a%20good%20predictor%20of%20winning%20rate%3F%20Let's%20see.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches%2C%20plt%2C%20sm)%3A%0A%20%20%20%20def%20plot_elo_vs_winrate(team%3A%20str%2C%20last_n_games%3A%20int)%20-%3E%20None%3A%0A%20%20%20%20%20%20%20%20df%20%3D%20England_Matches%5BEngland_Matches%5B%22HomeTeam%22%5D%20%3D%3D%20team%5D.sort_values(%22MatchDate%22).dropna(subset%3D%5B%22HomeElo%22%2C%20%22FTResult%22%5D).copy()%0A%0A%20%20%20%20%20%20%20%20df%5B%22Win%22%5D%20%3D%20(df%5B%22FTResult%22%5D%20%3D%3D%20%22H%22).astype(int)%0A%20%20%20%20%20%20%20%20winrate_col%20%3D%20f%22WinRate%7Blast_n_games%7D%22%0A%20%20%20%20%20%20%20%20df%5Bwinrate_col%5D%20%3D%20df%5B%22Win%22%5D.rolling(window%3Dlast_n_games).mean()%0A%0A%20%20%20%20%20%20%20%20%23%20Line%20plot%0A%20%20%20%20%20%20%20%20fig%2C%20ax1%20%3D%20plt.subplots(figsize%3D(12%2C%206))%0A%20%20%20%20%20%20%20%20ax1.plot(df%5B%22MatchDate%22%5D%2C%20df%5B%22HomeElo%22%5D%2C%20color%3D%22blue%22%2C%20label%3D%22Home%20Elo%22)%0A%20%20%20%20%20%20%20%20ax1.set_ylabel(%22Home%20Elo%22%2C%20color%3D%22blue%22)%0A%20%20%20%20%20%20%20%20ax1.tick_params(axis%3D%22y%22%2C%20labelcolor%3D%22blue%22)%0A%0A%20%20%20%20%20%20%20%20ax2%20%3D%20ax1.twinx()%0A%20%20%20%20%20%20%20%20ax2.plot(%0A%20%20%20%20%20%20%20%20%20%20%20%20df%5B%22MatchDate%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20df%5Bwinrate_col%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20color%3D%22green%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20linestyle%3D%22--%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20label%3D%22Win%20Rate%22%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20ax2.set_ylabel(f%22Rolling%20Win%20Rate%20(%7Blast_n_games%7D%20Games)%22%2C%20color%3D%22green%22)%0A%20%20%20%20%20%20%20%20ax2.tick_params(axis%3D%22y%22%2C%20labelcolor%3D%22green%22)%0A%0A%20%20%20%20%20%20%20%20plt.title(f%22%7Bteam%7D%20-%20Home%20Elo%20vs%20%7Blast_n_games%7D-Game%20Rolling%20Win%20Rate%22)%0A%20%20%20%20%20%20%20%20plt.show()%0A%0A%20%20%20%20%20%20%20%20%23%20Scatter%20%2B%20OLS%0A%20%20%20%20%20%20%20%20valid%20%3D%20df.dropna(subset%3D%5Bwinrate_col%5D)%0A%20%20%20%20%20%20%20%20X%20%3D%20sm.add_constant(valid%5B%22HomeElo%22%5D)%0A%20%20%20%20%20%20%20%20y%20%3D%20valid%5Bwinrate_col%5D%0A%20%20%20%20%20%20%20%20model%20%3D%20sm.OLS(y%2C%20X).fit()%0A%0A%20%20%20%20%20%20%20%20plt.figure(figsize%3D(6%2C%204))%0A%20%20%20%20%20%20%20%20plt.scatter(valid%5B%22HomeElo%22%5D%2C%20y%2C%20alpha%3D0.7%2C%20label%3D%22Data%22)%0A%20%20%20%20%20%20%20%20plt.plot(valid%5B%22HomeElo%22%5D%2C%20model.predict(X)%2C%20color%3D%22red%22%2C%20label%3D%22OLS%20Fit%22)%0A%20%20%20%20%20%20%20%20plt.xlabel(%22Home%20Elo%22)%0A%20%20%20%20%20%20%20%20plt.ylabel(f%22Rolling%20Win%20Rate%20(%7Blast_n_games%7D%20Games)%22)%0A%20%20%20%20%20%20%20%20plt.title(f%22%7Bteam%7D%20-%20Elo%20vs%20Rolling%20Win%20Rate%22)%0A%20%20%20%20%20%20%20%20plt.legend()%0A%20%20%20%20%20%20%20%20plt.show()%0A%0A%20%20%20%20%20%20%20%20print(model.summary())%0A%20%20%20%20return%20(plot_elo_vs_winrate%2C)%0A%0A%0A%40app.cell%0Adef%20_(plot_elo_vs_winrate)%3A%0A%20%20%20%20plot_elo_vs_winrate(%22Man%20City%22%2C%2040)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20That's%20actually%20surperisingly%20good.%20What%20if%20we%20put%20all%20the%20teams%20together%3F%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches%2C%20pd%2C%20plt%2C%20sm)%3A%0A%20%20%20%20def%20plot_all_teams_elo_vs_winrate(last_n_games%3A%20int)%20-%3E%20None%3A%0A%20%20%20%20%20%20%20%20records%20%3D%20%5B%5D%0A%0A%20%20%20%20%20%20%20%20for%20team%20in%20England_Matches%5B%22HomeTeam%22%5D.unique()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20team_df%20%3D%20England_Matches%5BEngland_Matches%5B%22HomeTeam%22%5D%20%3D%3D%20team%5D.sort_values(%22MatchDate%22).dropna(subset%3D%5B%22HomeElo%22%2C%20%22FTResult%22%5D).copy()%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20team_df%5B%22Win%22%5D%20%3D%20(team_df%5B%22FTResult%22%5D%20%3D%3D%20%22H%22).astype(int)%0A%20%20%20%20%20%20%20%20%20%20%20%20team_df%5Bf%22WinRate%7Blast_n_games%7D%22%5D%20%3D%20team_df%5B%22Win%22%5D.rolling(last_n_games).mean()%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20records.append(team_df%5B%5B%22HomeElo%22%2C%20f%22WinRate%7Blast_n_games%7D%22%5D%5D)%0A%0A%20%20%20%20%20%20%20%20combined_df%20%3D%20pd.concat(records%2C%20ignore_index%3DTrue).dropna()%0A%0A%20%20%20%20%20%20%20%20X%20%3D%20combined_df%5B%22HomeElo%22%5D%0A%20%20%20%20%20%20%20%20y%20%3D%20combined_df%5Bf%22WinRate%7Blast_n_games%7D%22%5D%0A%0A%20%20%20%20%20%20%20%20X_const%20%3D%20sm.add_constant(X)%0A%20%20%20%20%20%20%20%20model%20%3D%20sm.OLS(y%2C%20X_const).fit()%0A%0A%20%20%20%20%20%20%20%20%23%20Plot%0A%20%20%20%20%20%20%20%20plt.figure(figsize%3D(6%2C%204))%0A%20%20%20%20%20%20%20%20plt.scatter(X%2C%20y%2C%20alpha%3D0.4%2C%20label%3D%22Data%22)%0A%20%20%20%20%20%20%20%20plt.plot(X%2C%20model.predict(X_const)%2C%20color%3D%22red%22%2C%20label%3D%22OLS%20Fit%22)%0A%20%20%20%20%20%20%20%20plt.xlabel(%22Home%20Elo%22)%0A%20%20%20%20%20%20%20%20plt.ylabel(f%22Rolling%20Win%20Rate%20(%7Blast_n_games%7D%20Games)%22)%0A%20%20%20%20%20%20%20%20plt.title(f%22All%20Teams%20-%20Elo%20vs%20Rolling%20Win%20Rate%20(%7Blast_n_games%7D%20Games)%22)%0A%20%20%20%20%20%20%20%20plt.legend()%0A%20%20%20%20%20%20%20%20plt.show()%0A%0A%20%20%20%20%20%20%20%20print(model.summary())%0A%20%20%20%20return%20(plot_all_teams_elo_vs_winrate%2C)%0A%0A%0A%40app.cell%0Adef%20_(plot_all_teams_elo_vs_winrate)%3A%0A%20%20%20%20plot_all_teams_elo_vs_winrate(40)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Looks%20amazing!%20Not%20exactly%20unexpected%20though%20after%20studying%20how%20is%20Elo%20defined%20in%20the%20first%20place.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20For%20now%20we%20just%20considered%20the%20home%20team's%20Elo.%20What%20if%20we%20see%20how%20a%20team's%20chance%20of%20winning%20changes%20depending%20on%20how%20strong%20they%20are%20compared%20to%20their%20opponent%2C%20using%20Elo%20ratings%3F%0A%0A%20%20%20%20Let's%20use%20a%20logistic%20regression%20model%20to%20predict%20the%20probability%20that%20the%20home%20team%20wins%2C%20based%20on%20both%20the%20home%20and%20away%20Elo.%0A%0A%20%20%20%20Visualize%20it%20as%20a%20surface%3A%20home%20Elo%20on%20one%20axis%2C%20away%20Elo%20on%20the%20other%2C%20and%20the%20color%20shows%20the%20win%20probability.%20To%20get%20a%20better%20feel%20for%20it%2C%20look%20at%20slices%20of%20the%20surface%20-%20like%20fixing%20the%20home%20Elo%20at%201700%20and%20seeing%20how%20the%20win%20chance%20changes%20as%20the%20opponent%20gets%20stronger%20or%20weaker.%20It%20gives%20a%20nice%20sense%20of%20how%20Elo%20actually%20plays%20out%20in%20match%20outcomes.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches%2C%20LogisticRegression%2C%20np%2C%20pd%2C%20plt)%3A%0A%20%20%20%20%23%20Binary%20win%20column%0A%20%20%20%20England_Matches%5B%22HomeWin%22%5D%20%3D%20(England_Matches%5B%22FTResult%22%5D%20%3D%3D%20%22H%22).astype(int)%0A%0A%20%20%20%20%23%20Prepare%20training%20data%0A%20%20%20%20surface_df%20%3D%20England_Matches.dropna(subset%3D%5B%22HomeElo%22%2C%20%22AwayElo%22%2C%20%22HomeWin%22%5D)%0A%20%20%20%20surface_X%20%3D%20surface_df%5B%5B%22HomeElo%22%2C%20%22AwayElo%22%5D%5D%0A%20%20%20%20surface_y%20%3D%20surface_df%5B%22HomeWin%22%5D%0A%0A%20%20%20%20%23%20Fit%20logistic%20regression%0A%20%20%20%20surface_model%20%3D%20LogisticRegression()%0A%20%20%20%20surface_model.fit(surface_X%2C%20surface_y)%0A%0A%20%20%20%20%23%20---%20Build%202D%20Elo%20grid%20---%0A%20%20%20%20elo_min%20%3D%20int(min(England_Matches%5B%22HomeElo%22%5D.min()%2C%20England_Matches%5B%22AwayElo%22%5D.min())%20%2F%2F%20100%20*%20100)%0A%20%20%20%20elo_max%20%3D%20int(max(England_Matches%5B%22HomeElo%22%5D.max()%2C%20England_Matches%5B%22AwayElo%22%5D.max())%20%2F%2F%20100%20*%20100%20%2B%20100)%0A%20%20%20%20step%20%3D%20max(1%2C%20int((elo_max%20-%20elo_min)%20%2F%2F%2030))%20%20%23%20guard%20against%20step%3D0%0A%0A%20%20%20%20home_elo%20%3D%20np.arange(elo_min%2C%20elo_max%20%2B%20step%2C%20step)%0A%20%20%20%20away_elo%20%3D%20np.arange(elo_min%2C%20elo_max%20%2B%20step%2C%20step)%0A%20%20%20%20grid_home%2C%20grid_away%20%3D%20np.meshgrid(home_elo%2C%20away_elo)%20%20%23%20shapes%3A%20(len(away_elo)%2C%20len(home_elo))%0A%0A%20%20%20%20%23%20---%20Predict%20win%20probabilities%20on%20the%20grid%20---%0A%20%20%20%20grid_points%20%3D%20np.column_stack(%5Bgrid_home.ravel()%2C%20grid_away.ravel()%5D)%0A%20%20%20%20grid_df%20%3D%20pd.DataFrame(grid_points%2C%20columns%3D%5B%22HomeElo%22%2C%20%22AwayElo%22%5D)%0A%20%20%20%20win_probs%20%3D%20surface_model.predict_proba(grid_df)%5B%3A%2C%201%5D%20%20%23%20probability%20of%20HomeWin%20%3D%3D%201%0A%20%20%20%20win_prob_grid%20%3D%20win_probs.reshape(grid_home.shape)%0A%0A%20%20%20%20%23%20---%203D%20Surface%20plot%20---%0A%20%20%20%20fig%20%3D%20plt.figure(figsize%3D(8%2C%206))%0A%20%20%20%20ax%20%3D%20fig.add_subplot(111%2C%20projection%3D%223d%22)%0A%0A%20%20%20%20surf%20%3D%20ax.plot_surface(%0A%20%20%20%20%20%20%20%20grid_home%2C%20%20%23%20X%20%3D%20Home%20Elo%0A%20%20%20%20%20%20%20%20grid_away%2C%20%20%23%20Y%20%3D%20Away%20Elo%0A%20%20%20%20%20%20%20%20win_prob_grid%2C%20%20%23%20Z%20%3D%20P(Home%20Win)%0A%20%20%20%20%20%20%20%20cmap%3D%22viridis%22%2C%0A%20%20%20%20%20%20%20%20linewidth%3D0%2C%0A%20%20%20%20%20%20%20%20antialiased%3DTrue%2C%0A%20%20%20%20%20%20%20%20alpha%3D0.95%2C%0A%20%20%20%20)%0A%0A%20%20%20%20%23%20Optional%3A%20light%20wireframe%20overlay%20for%20structure%0A%20%20%20%20ax.plot_wireframe(%0A%20%20%20%20%20%20%20%20grid_home%2C%0A%20%20%20%20%20%20%20%20grid_away%2C%0A%20%20%20%20%20%20%20%20win_prob_grid%2C%0A%20%20%20%20%20%20%20%20rstride%3D3%2C%0A%20%20%20%20%20%20%20%20cstride%3D3%2C%0A%20%20%20%20%20%20%20%20linewidth%3D0.3%2C%0A%20%20%20%20%20%20%20%20alpha%3D0.4%2C%0A%20%20%20%20)%0A%0A%20%20%20%20ax.set_title(%22Predicted%20Home%20Win%20Probability%20Surface%20(Logistic%20Regression)%22)%0A%20%20%20%20ax.set_xlabel(%22Home%20Elo%22)%0A%20%20%20%20ax.set_ylabel(%22Away%20Elo%22)%0A%20%20%20%20ax.set_zlabel(%22P(Home%20Win)%22)%0A%0A%20%20%20%20%23%20Colorbar%20for%20probabilities%0A%20%20%20%20fig.colorbar(surf%2C%20ax%3Dax%2C%20shrink%3D0.6%2C%20aspect%3D12%2C%20label%3D%22P(Home%20Win)%22)%0A%0A%20%20%20%20%23%20Nice%20view%20angle%0A%20%20%20%20ax.view_init(elev%3D25%2C%20azim%3D105)%0A%0A%20%20%20%20plt.tight_layout()%0A%20%20%20%20plt.show()%0A%20%20%20%20return%20elo_max%2C%20elo_min%2C%20step%2C%20surface_model%0A%0A%0A%40app.cell%0Adef%20_(elo_max%2C%20elo_min%2C%20np%2C%20pd%2C%20plt%2C%20step%2C%20surface_model)%3A%0A%20%20%20%20def%20plot_winrate_given_homeelo(fixed_home_elo%3A%20int)%3A%0A%20%20%20%20%20%20%20%20away_range%20%3D%20np.arange(elo_min%2C%20elo_max%2C%20step)%0A%20%20%20%20%20%20%20%20grid_input%20%3D%20pd.DataFrame(%7B%22HomeElo%22%3A%20%5Bfixed_home_elo%5D%20*%20len(away_range)%2C%20%22AwayElo%22%3A%20away_range%7D)%0A%0A%20%20%20%20%20%20%20%20predicted_probs%20%3D%20surface_model.predict_proba(grid_input)%5B%3A%2C%201%5D%0A%0A%20%20%20%20%20%20%20%20plt.figure(figsize%3D(8%2C%205))%0A%20%20%20%20%20%20%20%20plt.plot(away_range%2C%20predicted_probs%2C%20marker%3D%22o%22)%0A%20%20%20%20%20%20%20%20plt.title(f%22P(Home%20Win)%20vs%20Away%20Elo%20(Home%20Elo%20%3D%20%7Bfixed_home_elo%7D)%22)%0A%20%20%20%20%20%20%20%20plt.xlabel(%22Away%20Elo%22)%0A%20%20%20%20%20%20%20%20plt.ylabel(%22P(Home%20Win)%22)%0A%20%20%20%20%20%20%20%20plt.grid(True)%0A%20%20%20%20%20%20%20%20plt.show()%0A%0A%20%20%20%20plot_winrate_given_homeelo(1700)%0A%20%20%20%20plot_winrate_given_homeelo(2000)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20The%20plot%20should%20look%20familiar%2C%20indeed%2C%20it's%20like%20a%20reversed%20logistic%20function.%20This%20reminds%20me%20the%20volatility%20surface%20in%20stock%20option%20modeling.%0A%0A%20%20%20%20A%20sanity%20check%2C%20does%20the%20number%20make%20sense%3F%20Let's%20see%20the%20winrate%20of%20a%20~1700%20elo%20home%20team%20vs%20a%20~1600%20elo%20away%20team%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches)%3A%0A%20%20%20%20England_Matches%5B%0A%20%20%20%20%20%20%20%20(England_Matches%5B%22HomeElo%22%5D%20%3E%3D%201700%20-%2015)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22HomeElo%22%5D%20%3C%3D%201700%20%2B%2015)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayElo%22%5D%20%3E%3D%201600%20-%2015)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayElo%22%5D%20%3C%3D%201600%20%2B%2015)%0A%20%20%20%20%5D%5B%22FTResult%22%5D.value_counts(normalize%3DTrue)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches)%3A%0A%20%20%20%20England_Matches%5B%0A%20%20%20%20%20%20%20%20(England_Matches%5B%22HomeElo%22%5D%20%3E%3D%201700%20-%2015)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22HomeElo%22%5D%20%3C%3D%201700%20%2B%2015)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayElo%22%5D%20%3E%3D%202000%20-%2015)%0A%20%20%20%20%20%20%20%20%26%20(England_Matches%5B%22AwayElo%22%5D%20%3C%3D%202000%20%2B%2015)%0A%20%20%20%20%5D%5B%22FTResult%22%5D.value_counts(normalize%3DTrue)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Compare%20the%20win%20rate%200.55%20(resp.%200.20%2C%20sample%20size%20is%20pretty%20small)%20with%20the%20above%20plot%20at%20x%20%3D%201600%20(resp.%202000)%2C%20I'd%20say%20we%20do%20have%20something%20that%20is%20making%20sense!%0A%20%20%20%20From%20here%20we%20can%20also%20kinda%20see%20Home%20team%20has%20an%20advantage%20over%20Away%20team%20-%20the%20probability%20of%20a%20home%20team%20with%20Elo%20x%20defeats%20a%20team%20with%20same%20Elo%20x%20is%20usually%20above%2040%25%2C%20even%20close%20to%2050%25.%20Considering%20that%20~1%2F4%20of%20games%20in%20soccer%20matches%20is%20draw%2C%20that%20is%20a%20very%20%22biased%22%20probability.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Predict%20Match%20Result%20with%20ML%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20So%20we%20have%20some%20simple%20win-probability%20forecasting.%20Why%20don't%20we%20go%20ahead%20and%20try%20to%20predict%20match%20result%3F%20To%20do%20that%20we%20need%20some%20further%20preparation.%0A%20%20%20%20In%20particular%2C%20there%20are%20columns%20in%20the%20dataset%20that%20we%20cannot%20directly%20use.%20For%20example%2C%20we%20should%20definitely%20NOT%20use%20%60FTHome%60%20and%20%60FTAway%60%20which%20are%20simply%20the%20scores%20of%20the%20matches%20to%20predict%20match%20result.%20A%20more%20subtle%20case%20is%20when%20we%20try%20to%20use%20things%20like%20%60HomeTarget%60%20(number%20of%20shots%20made%20by%20Home%20team%20that%20is%20on%20target)%20-%20things%20that%20is%20unknown%20*before*%20the%20match%20start.%20This%20is%20called%20lookahead%20bias%20in%20finance%20world%2C%20which%20should%20be%20avoided%20at%20all%20cost%20in%20predicting%20things.%0A%20%20%20%20However%2C%20there%20are%20things%20that%20we%20can%20use.%20For%20example%2C%20Elo%2C%20as%20a%20good%20feature%20predicting%20rolling%20winning%20rate%2C%20can%20be%20used%2C%20as%20it%20is%20updated%20once%20a%20while%20and%20the%20recorded%20Elo%20is%20the%20*most%20updated*%20Elo%20which%20is%20known%20to%20public%20before%20each%20match%20starts.%0A%20%20%20%20We%20can%20also%20do%20some%20feature%20engineering.%20For%20example%2C%20we%20cannot%20directly%20use%20%60HomeTarget%60%2C%20but%20we%20can%20calculate%20the%20average%20shots%20on%20target%20the%20Home%20team%20made%20(on%20average)%20in%20their%20past%20N%20games!%0A%20%20%20%20Let's%20start%20with%20some%20engineering.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches%2C%20defaultdict%2C%20np%2C%20pd)%3A%0A%20%20%20%20England_Matches_copy%20%3D%20England_Matches.copy()%0A%0A%20%20%20%20England_Matches_copy.sort_values(by%3D%22MatchDate%22%2C%20inplace%3DTrue)%0A%20%20%20%20England_Matches_copy.reset_index(drop%3DTrue%2C%20inplace%3DTrue)%0A%0A%20%20%20%20%23%20Difference%20in%20current%20game's%20goal.%0A%20%20%20%20%23%20This%20can%20be%20potentially%20used%20for%20a%20regression%20version%20of%20the%20model%0A%20%20%20%20England_Matches_copy%5B%22NetHomeGoal%22%5D%20%3D%20England_Matches_copy%5B%22FTHome%22%5D%20-%20England_Matches_copy%5B%22FTAway%22%5D%0A%0A%20%20%20%20%23%20Some%20of%20the%20original%20features%20are%20too%20much%20right-skewed%0A%20%20%20%20for%20col%20in%20%5B%0A%20%20%20%20%20%20%20%20%22OddHome%22%2C%0A%20%20%20%20%20%20%20%20%22OddDraw%22%2C%0A%20%20%20%20%20%20%20%20%22OddAway%22%2C%0A%20%20%20%20%20%20%20%20%22MaxHome%22%2C%0A%20%20%20%20%20%20%20%20%22MaxDraw%22%2C%0A%20%20%20%20%20%20%20%20%22MaxAway%22%2C%0A%20%20%20%20%20%20%20%20%22Under25%22%2C%0A%20%20%20%20%20%20%20%20%22MaxUnder25%22%2C%0A%20%20%20%20%20%20%20%20%22HandiHome%22%2C%0A%20%20%20%20%20%20%20%20%22HandiAway%22%2C%0A%20%20%20%20%5D%3A%0A%20%20%20%20%20%20%20%20England_Matches_copy%5Bf%22LOG_%7Bcol%7D%22%5D%20%3D%20np.log(England_Matches_copy%5Bcol%5D)%0A%0A%20%20%20%20%23%20Difference%20in%20Elo%0A%20%20%20%20England_Matches_copy%5B%22EloDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeElo%22%5D%20-%20England_Matches_copy%5B%22AwayElo%22%5D%0A%0A%20%20%20%20%23%20Number%20of%20goals%20made%20in%20the%20last%205%20games%0A%20%20%20%20home_goals_last5%20%3D%20%5B%5D%0A%20%20%20%20away_goals_last5%20%3D%20%5B%5D%0A%20%20%20%20goal_history%20%3D%20defaultdict(list)%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home_team%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away_team%20%3D%20row%5B%22AwayTeam%22%5D%0A%0A%20%20%20%20%20%20%20%20home_past_goals%20%3D%20goal_history%5Bhome_team%5D%5B-5%3A%5D%0A%20%20%20%20%20%20%20%20away_past_goals%20%3D%20goal_history%5Baway_team%5D%5B-5%3A%5D%0A%0A%20%20%20%20%20%20%20%20home_goals_last5.append(sum(home_past_goals))%0A%20%20%20%20%20%20%20%20away_goals_last5.append(sum(away_past_goals))%0A%0A%20%20%20%20%20%20%20%20goal_history%5Bhome_team%5D.append(row%5B%22FTHome%22%5D)%0A%20%20%20%20%20%20%20%20goal_history%5Baway_team%5D.append(row%5B%22FTAway%22%5D)%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeGoalsLast5%22%5D%20%3D%20home_goals_last5%0A%20%20%20%20England_Matches_copy%5B%22AwayGoalsLast5%22%5D%20%3D%20away_goals_last5%0A%0A%20%20%20%20%23%20Number%20of%20goals%20conceded%20in%20the%20last%205%20games%0A%20%20%20%20conceded_history%20%3D%20defaultdict(list)%0A%20%20%20%20home_conceded_last5%20%3D%20%5B%5D%0A%20%20%20%20away_conceded_last5%20%3D%20%5B%5D%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home_team%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away_team%20%3D%20row%5B%22AwayTeam%22%5D%0A%0A%20%20%20%20%20%20%20%20home_past_conceded%20%3D%20conceded_history%5Bhome_team%5D%5B-5%3A%5D%0A%20%20%20%20%20%20%20%20away_past_conceded%20%3D%20conceded_history%5Baway_team%5D%5B-5%3A%5D%0A%0A%20%20%20%20%20%20%20%20home_conceded_last5.append(sum(home_past_conceded))%0A%20%20%20%20%20%20%20%20away_conceded_last5.append(sum(away_past_conceded))%0A%0A%20%20%20%20%20%20%20%20conceded_history%5Bhome_team%5D.append(row%5B%22FTAway%22%5D)%20%20%23%20home%20conceded%20away%20goals%0A%20%20%20%20%20%20%20%20conceded_history%5Baway_team%5D.append(row%5B%22FTHome%22%5D)%20%20%23%20away%20conceded%20home%20goals%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeConcededLast5%22%5D%20%3D%20home_conceded_last5%0A%20%20%20%20England_Matches_copy%5B%22AwayConcededLast5%22%5D%20%3D%20away_conceded_last5%0A%0A%20%20%20%20%23%20Win%20streak%20and%20loss%20streak%0A%20%20%20%20win_streaks%20%3D%20defaultdict(int)%0A%20%20%20%20home_streak%20%3D%20%5B%5D%0A%20%20%20%20away_streak%20%3D%20%5B%5D%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away%20%3D%20row%5B%22AwayTeam%22%5D%0A%20%20%20%20%20%20%20%20result%20%3D%20row%5B%22FTResult%22%5D%0A%0A%20%20%20%20%20%20%20%20home_streak.append(win_streaks%5Bhome%5D)%0A%20%20%20%20%20%20%20%20away_streak.append(win_streaks%5Baway%5D)%0A%0A%20%20%20%20%20%20%20%20if%20result%20%3D%3D%20%22H%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20win_streaks%5Bhome%5D%20%2B%3D%201%0A%20%20%20%20%20%20%20%20%20%20%20%20win_streaks%5Baway%5D%20%3D%200%0A%20%20%20%20%20%20%20%20elif%20result%20%3D%3D%20%22A%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20win_streaks%5Baway%5D%20%2B%3D%201%0A%20%20%20%20%20%20%20%20%20%20%20%20win_streaks%5Bhome%5D%20%3D%200%0A%20%20%20%20%20%20%20%20else%3A%20%20%23%20Draw%20resets%20both%0A%20%20%20%20%20%20%20%20%20%20%20%20win_streaks%5Bhome%5D%20%3D%200%0A%20%20%20%20%20%20%20%20%20%20%20%20win_streaks%5Baway%5D%20%3D%200%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeWinStreak%22%5D%20%3D%20home_streak%0A%20%20%20%20England_Matches_copy%5B%22AwayWinStreak%22%5D%20%3D%20away_streak%0A%0A%20%20%20%20loss_streaks%20%3D%20defaultdict(int)%0A%20%20%20%20home_loss_streak%20%3D%20%5B%5D%0A%20%20%20%20away_loss_streak%20%3D%20%5B%5D%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away%20%3D%20row%5B%22AwayTeam%22%5D%0A%20%20%20%20%20%20%20%20result%20%3D%20row%5B%22FTResult%22%5D%0A%0A%20%20%20%20%20%20%20%20home_loss_streak.append(loss_streaks%5Bhome%5D)%0A%20%20%20%20%20%20%20%20away_loss_streak.append(loss_streaks%5Baway%5D)%0A%0A%20%20%20%20%20%20%20%20if%20result%20%3D%3D%20%22A%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20loss_streaks%5Bhome%5D%20%2B%3D%201%0A%20%20%20%20%20%20%20%20%20%20%20%20loss_streaks%5Baway%5D%20%3D%200%0A%20%20%20%20%20%20%20%20elif%20result%20%3D%3D%20%22H%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20loss_streaks%5Baway%5D%20%2B%3D%201%0A%20%20%20%20%20%20%20%20%20%20%20%20loss_streaks%5Bhome%5D%20%3D%200%0A%20%20%20%20%20%20%20%20else%3A%20%20%23%20Draw%20resets%20both%0A%20%20%20%20%20%20%20%20%20%20%20%20loss_streaks%5Bhome%5D%20%3D%200%0A%20%20%20%20%20%20%20%20%20%20%20%20loss_streaks%5Baway%5D%20%3D%200%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeLossStreak%22%5D%20%3D%20home_loss_streak%0A%20%20%20%20England_Matches_copy%5B%22AwayLossStreak%22%5D%20%3D%20away_loss_streak%0A%0A%20%20%20%20%23%20how%20many%20day%20between%20this%20match%20and%20the%20team's%20last%20match%0A%20%20%20%20last_played%3A%20dict%5Bstr%2C%20pd.Timestamp%5D%20%3D%20%7B%7D%0A%20%20%20%20home_rest_days%20%3D%20%5B%5D%0A%20%20%20%20away_rest_days%20%3D%20%5B%5D%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20date%20%3D%20row%5B%22MatchDate%22%5D%0A%20%20%20%20%20%20%20%20home%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away%20%3D%20row%5B%22AwayTeam%22%5D%0A%0A%20%20%20%20%20%20%20%20home_rest%20%3D%20(date%20-%20last_played%5Bhome%5D).days%20if%20home%20in%20last_played%20else%20None%0A%20%20%20%20%20%20%20%20away_rest%20%3D%20(date%20-%20last_played%5Baway%5D).days%20if%20away%20in%20last_played%20else%20None%0A%0A%20%20%20%20%20%20%20%20home_rest_days.append(home_rest)%0A%20%20%20%20%20%20%20%20away_rest_days.append(away_rest)%0A%0A%20%20%20%20%20%20%20%20last_played%5Bhome%5D%20%3D%20date%0A%20%20%20%20%20%20%20%20last_played%5Baway%5D%20%3D%20date%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeRestDays%22%5D%20%3D%20home_rest_days%0A%20%20%20%20England_Matches_copy%5B%22AwayRestDays%22%5D%20%3D%20away_rest_days%0A%0A%20%20%20%20%23%20Elo%20momentum%3A%20difference%20between%20current%20Elo%20and%20Elo%20n%20games%20before%0A%20%20%20%20def%20compute_elo_momentum_all_roles(df%3A%20pd.DataFrame%2C%20team_col%3A%20str%2C%20new_col%3A%20str%2C%20n%3A%20int%20%3D%205)%20-%3E%20pd.DataFrame%3A%0A%20%20%20%20%20%20%20%20df%20%3D%20df.copy()%0A%20%20%20%20%20%20%20%20records%20%3D%20%5B%5D%0A%0A%20%20%20%20%20%20%20%20for%20team%20in%20df%5Bteam_col%5D.unique()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20team_matches%20%3D%20df%5B(df%5B%22HomeTeam%22%5D%20%3D%3D%20team)%20%7C%20(df%5B%22AwayTeam%22%5D%20%3D%3D%20team)%5D.copy()%0A%20%20%20%20%20%20%20%20%20%20%20%20team_matches%20%3D%20team_matches.sort_values(%22MatchDate%22)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20team_matches%5B%22TeamElo%22%5D%20%3D%20team_matches.apply(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20lambda%20row%3A%20row%5B%22HomeElo%22%5D%20if%20row%5B%22HomeTeam%22%5D%20%3D%3D%20team%20else%20row%5B%22AwayElo%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20axis%3D1%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20team_matches%5Bnew_col%5D%20%3D%20team_matches%5B%22TeamElo%22%5D%20-%20team_matches%5B%22TeamElo%22%5D.shift(n)%0A%20%20%20%20%20%20%20%20%20%20%20%20team_matches%5B%22MatchIndex%22%5D%20%3D%20team_matches.index%20%20%23%20Keep%20original%20index%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20records.append(team_matches%5B%5B%22MatchIndex%22%2C%20new_col%5D%5D)%0A%0A%20%20%20%20%20%20%20%20merged%20%3D%20pd.concat(records).drop_duplicates(%22MatchIndex%22%2C%20keep%3D%22first%22).set_index(%22MatchIndex%22)%0A%0A%20%20%20%20%20%20%20%20df.loc%5Bmerged.index%2C%20new_col%5D%20%3D%20merged%5Bnew_col%5D%0A%20%20%20%20%20%20%20%20return%20df%0A%0A%20%20%20%20England_Matches_copy%20%3D%20compute_elo_momentum_all_roles(England_Matches_copy%2C%20%22HomeTeam%22%2C%20%22HomeEloMomentum%22%2C%20n%3D5)%0A%20%20%20%20England_Matches_copy%20%3D%20compute_elo_momentum_all_roles(England_Matches_copy%2C%20%22AwayTeam%22%2C%20%22AwayEloMomentum%22%2C%20n%3D5)%0A%0A%20%20%20%20%23%20Discipline%3A%20average%20cards%20got%20in%20the%20past%205%20games%20(red%20counts%20as%202)%0A%20%20%20%20home_discipline_last5%20%3D%20%5B%5D%0A%20%20%20%20away_discipline_last5%20%3D%20%5B%5D%0A%0A%20%20%20%20discipline_history%20%3D%20defaultdict(list)%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away%20%3D%20row%5B%22AwayTeam%22%5D%0A%20%20%20%20%20%20%20%20home_yellow%2C%20home_red%20%3D%20row%5B%22HomeYellow%22%5D%2C%20row%5B%22HomeRed%22%5D%0A%20%20%20%20%20%20%20%20away_yellow%2C%20away_red%20%3D%20row%5B%22AwayYellow%22%5D%2C%20row%5B%22AwayRed%22%5D%0A%0A%20%20%20%20%20%20%20%20home_past%20%3D%20discipline_history%5Bhome%5D%5B-5%3A%5D%0A%20%20%20%20%20%20%20%20away_past%20%3D%20discipline_history%5Baway%5D%5B-5%3A%5D%0A%0A%20%20%20%20%20%20%20%20home_score%20%3D%20np.mean(home_past)%20if%20home_past%20else%20np.nan%0A%20%20%20%20%20%20%20%20away_score%20%3D%20np.mean(away_past)%20if%20away_past%20else%20np.nan%0A%0A%20%20%20%20%20%20%20%20home_discipline_last5.append(home_score)%0A%20%20%20%20%20%20%20%20away_discipline_last5.append(away_score)%0A%0A%20%20%20%20%20%20%20%20discipline_history%5Bhome%5D.append(home_yellow%20%2B%202%20*%20home_red)%0A%20%20%20%20%20%20%20%20discipline_history%5Baway%5D.append(away_yellow%20%2B%202%20*%20away_red)%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeDisciplineScore%22%5D%20%3D%20home_discipline_last5%0A%20%20%20%20England_Matches_copy%5B%22AwayDisciplineScore%22%5D%20%3D%20away_discipline_last5%0A%0A%20%20%20%20%23%20In%20the%20last%205%20games%2C%20what's%20the%20average%20different%20between%20the%20shot%20the%20team%20made%20versus%20their%20competent%20made%3F%0A%20%20%20%20def%20compute_avg_shot_diff(matches%3A%20pd.DataFrame%2C%20team_col%3A%20str%2C%20side%3A%20str)%20-%3E%20pd.Series%3A%0A%20%20%20%20%20%20%20%20shot_diffs%20%3D%20%5B%5D%0A%0A%20%20%20%20%20%20%20%20for%20i%2C%20row%20in%20matches.iterrows()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20team%20%3D%20row%5Bteam_col%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20match_date%20%3D%20row%5B%22MatchDate%22%5D%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20past_matches%20%3D%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20matches%5B(((matches%5B%22HomeTeam%22%5D%20%3D%3D%20team)%20%7C%20(matches%5B%22AwayTeam%22%5D%20%3D%3D%20team))%20%26%20(matches%5B%22MatchDate%22%5D%20%3C%20match_date))%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20.sort_values(%22MatchDate%22%2C%20ascending%3DFalse)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20.head(5)%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20diffs%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_%2C%20match%20in%20past_matches.iterrows()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20match%5B%22HomeTeam%22%5D%20%3D%3D%20team%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20diff%20%3D%20match%5B%22HomeShots%22%5D%20-%20match%5B%22AwayShots%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20diff%20%3D%20match%5B%22AwayShots%22%5D%20-%20match%5B%22HomeShots%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20diffs.append(diff)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20avg_diff%20%3D%20np.mean(diffs)%20if%20diffs%20else%20np.nan%0A%20%20%20%20%20%20%20%20%20%20%20%20shot_diffs.append(avg_diff)%0A%0A%20%20%20%20%20%20%20%20return%20pd.Series(shot_diffs%2C%20index%3Dmatches.index)%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeAvgShotDiff5%22%5D%20%3D%20compute_avg_shot_diff(England_Matches_copy%2C%20%22HomeTeam%22%2C%20%22home%22)%0A%20%20%20%20England_Matches_copy%5B%22AwayAvgShotDiff5%22%5D%20%3D%20compute_avg_shot_diff(England_Matches_copy%2C%20%22AwayTeam%22%2C%20%22away%22)%0A%0A%20%20%20%20%23%20In%20the%20last%205%20games%2C%20what's%20the%20average%20different%20between%20the%20corner%20the%20team%20made%20versus%20their%20competent%20made%3F%0A%20%20%20%20def%20compute_avg_corner_diff(matches%3A%20pd.DataFrame%2C%20team_col%3A%20str%2C%20side%3A%20str)%20-%3E%20pd.Series%3A%0A%20%20%20%20%20%20%20%20corner_diffs%20%3D%20%5B%5D%0A%0A%20%20%20%20%20%20%20%20for%20i%2C%20row%20in%20matches.iterrows()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20team%20%3D%20row%5Bteam_col%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20match_date%20%3D%20row%5B%22MatchDate%22%5D%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20past_matches%20%3D%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20matches%5B(((matches%5B%22HomeTeam%22%5D%20%3D%3D%20team)%20%7C%20(matches%5B%22AwayTeam%22%5D%20%3D%3D%20team))%20%26%20(matches%5B%22MatchDate%22%5D%20%3C%20match_date))%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20.sort_values(%22MatchDate%22%2C%20ascending%3DFalse)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20.head(5)%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20diffs%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20_%2C%20match%20in%20past_matches.iterrows()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20match%5B%22HomeTeam%22%5D%20%3D%3D%20team%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20diff%20%3D%20match%5B%22HomeCorners%22%5D%20-%20match%5B%22AwayCorners%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20diff%20%3D%20match%5B%22AwayCorners%22%5D%20-%20match%5B%22HomeCorners%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20diffs.append(diff)%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20avg_diff%20%3D%20np.mean(diffs)%20if%20diffs%20else%20np.nan%0A%20%20%20%20%20%20%20%20%20%20%20%20corner_diffs.append(avg_diff)%0A%0A%20%20%20%20%20%20%20%20return%20pd.Series(corner_diffs%2C%20index%3Dmatches.index)%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeAvgCornerDiff5%22%5D%20%3D%20compute_avg_corner_diff(England_Matches_copy%2C%20%22HomeTeam%22%2C%20%22home%22)%0A%20%20%20%20England_Matches_copy%5B%22AwayAvgCornerDiff5%22%5D%20%3D%20compute_avg_corner_diff(England_Matches_copy%2C%20%22AwayTeam%22%2C%20%22away%22)%0A%0A%20%20%20%20%23%20And%20difference%20in%20accuracy%3F%20(shots%20on%20target%20%2F%20total%20shots)%0A%20%20%20%20home_acc%20%3D%20%5B%5D%0A%20%20%20%20away_acc%20%3D%20%5B%5D%0A%0A%20%20%20%20for%20idx%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20date%20%3D%20row%5B%22MatchDate%22%5D%0A%20%20%20%20%20%20%20%20home_team%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away_team%20%3D%20row%5B%22AwayTeam%22%5D%0A%0A%20%20%20%20%20%20%20%20past_home%20%3D%20England_Matches_copy%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20((England_Matches_copy%5B%22HomeTeam%22%5D%20%3D%3D%20home_team)%20%7C%20(England_Matches_copy%5B%22AwayTeam%22%5D%20%3D%3D%20home_team))%0A%20%20%20%20%20%20%20%20%20%20%20%20%26%20(England_Matches_copy%5B%22MatchDate%22%5D%20%3C%20date)%0A%20%20%20%20%20%20%20%20%5D.tail(5)%0A%0A%20%20%20%20%20%20%20%20accs%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20_%2C%20match%20in%20past_home.iterrows()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20match%5B%22HomeTeam%22%5D%20%3D%3D%20home_team%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20shots%2C%20target%20%3D%20match%5B%22HomeShots%22%5D%2C%20match%5B%22HomeTarget%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20shots%2C%20target%20%3D%20match%5B%22AwayShots%22%5D%2C%20match%5B%22AwayTarget%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20pd.notna(shots)%20and%20shots%20%3E%200%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20accs.append(target%20%2F%20shots)%0A%20%20%20%20%20%20%20%20home_acc.append(np.mean(accs)%20if%20accs%20else%20np.nan)%0A%0A%20%20%20%20%20%20%20%20past_away%20%3D%20England_Matches_copy%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20((England_Matches_copy%5B%22HomeTeam%22%5D%20%3D%3D%20away_team)%20%7C%20(England_Matches_copy%5B%22AwayTeam%22%5D%20%3D%3D%20away_team))%0A%20%20%20%20%20%20%20%20%20%20%20%20%26%20(England_Matches_copy%5B%22MatchDate%22%5D%20%3C%20date)%0A%20%20%20%20%20%20%20%20%5D.tail(5)%0A%0A%20%20%20%20%20%20%20%20accs%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20_%2C%20match%20in%20past_away.iterrows()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20match%5B%22HomeTeam%22%5D%20%3D%3D%20away_team%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20shots%2C%20target%20%3D%20match%5B%22HomeShots%22%5D%2C%20match%5B%22HomeTarget%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20shots%2C%20target%20%3D%20match%5B%22AwayShots%22%5D%2C%20match%5B%22AwayTarget%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20pd.notna(shots)%20and%20shots%20%3E%200%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20accs.append(target%20%2F%20shots)%0A%20%20%20%20%20%20%20%20away_acc.append(np.mean(accs)%20if%20accs%20else%20np.nan)%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeAvgShotAcc5%22%5D%20%3D%20home_acc%0A%20%20%20%20England_Matches_copy%5B%22AwayAvgShotAcc5%22%5D%20%3D%20away_acc%0A%0A%20%20%20%20%23%20Head-to-head%20win%2Floss%2Fdraw%20probability%0A%20%20%20%20England_Matches_copy%5B%22H2H_HomeWinRate%22%5D%20%3D%20np.nan%0A%20%20%20%20England_Matches_copy%5B%22H2H_HomeLossRate%22%5D%20%3D%20np.nan%0A%20%20%20%20England_Matches_copy%5B%22H2H_HomeDrawRate%22%5D%20%3D%20np.nan%0A%0A%20%20%20%20for%20idx%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away%20%3D%20row%5B%22AwayTeam%22%5D%0A%20%20%20%20%20%20%20%20match_date%20%3D%20row%5B%22MatchDate%22%5D%0A%0A%20%20%20%20%20%20%20%20past_matches%20%3D%20England_Matches_copy%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20((England_Matches_copy%5B%22HomeTeam%22%5D%20%3D%3D%20home)%20%26%20(England_Matches_copy%5B%22AwayTeam%22%5D%20%3D%3D%20away))%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7C%20((England_Matches_copy%5B%22HomeTeam%22%5D%20%3D%3D%20away)%20%26%20(England_Matches_copy%5B%22AwayTeam%22%5D%20%3D%3D%20home))%0A%20%20%20%20%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20%20%20%20%20%26%20(England_Matches_copy%5B%22MatchDate%22%5D%20%3C%20match_date)%0A%20%20%20%20%20%20%20%20%5D%0A%0A%20%20%20%20%20%20%20%20if%20past_matches.empty%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20continue%0A%0A%20%20%20%20%20%20%20%20def%20result_for_home(row)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20row%5B%22HomeTeam%22%5D%20%3D%3D%20home%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20row%5B%22FTResult%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%20%20%23%20HomeTeam%20!%3D%20home%20%3D%3E%20current%20home%20team%20was%20Away%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20row%5B%22FTResult%22%5D%20%3D%3D%20%22H%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20%22A%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20elif%20row%5B%22FTResult%22%5D%20%3D%3D%20%22A%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20%22H%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20%22D%22%0A%0A%20%20%20%20%20%20%20%20mapped_results%20%3D%20past_matches.apply(result_for_home%2C%20axis%3D1)%0A%0A%20%20%20%20%20%20%20%20win_rate%20%3D%20np.mean(mapped_results%20%3D%3D%20%22H%22)%0A%20%20%20%20%20%20%20%20loss_rate%20%3D%20np.mean(mapped_results%20%3D%3D%20%22A%22)%0A%20%20%20%20%20%20%20%20draw_rate%20%3D%20np.mean(mapped_results%20%3D%3D%20%22D%22)%0A%0A%20%20%20%20%20%20%20%20England_Matches_copy.at%5Bidx%2C%20%22H2H_HomeWinRate%22%5D%20%3D%20win_rate%0A%20%20%20%20%20%20%20%20England_Matches_copy.at%5Bidx%2C%20%22H2H_HomeLossRate%22%5D%20%3D%20loss_rate%0A%20%20%20%20%20%20%20%20England_Matches_copy.at%5Bidx%2C%20%22H2H_HomeDrawRate%22%5D%20%3D%20draw_rate%0A%0A%20%20%20%20%23%20Recent%205%20games'%20trend%0A%20%20%20%20result_history%20%3D%20defaultdict(list)%0A%20%20%20%20home_trend_scores%20%3D%20%5B%5D%0A%20%20%20%20away_trend_scores%20%3D%20%5B%5D%0A%0A%20%20%20%20def%20trend_score(results)%3A%0A%20%20%20%20%20%20%20%20return%20sum(results%5B-5%3A%5D)%0A%0A%20%20%20%20for%20_%2C%20row%20in%20England_Matches_copy.iterrows()%3A%0A%20%20%20%20%20%20%20%20home_team%20%3D%20row%5B%22HomeTeam%22%5D%0A%20%20%20%20%20%20%20%20away_team%20%3D%20row%5B%22AwayTeam%22%5D%0A%20%20%20%20%20%20%20%20result%20%3D%20row%5B%22FTResult%22%5D%0A%0A%20%20%20%20%20%20%20%20home_score%20%3D%20trend_score(result_history%5Bhome_team%5D)%0A%20%20%20%20%20%20%20%20away_score%20%3D%20trend_score(result_history%5Baway_team%5D)%0A%20%20%20%20%20%20%20%20home_trend_scores.append(home_score)%0A%20%20%20%20%20%20%20%20away_trend_scores.append(away_score)%0A%0A%20%20%20%20%20%20%20%20if%20result%20%3D%3D%20%22H%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20result_history%5Bhome_team%5D.append(3)%0A%20%20%20%20%20%20%20%20%20%20%20%20result_history%5Baway_team%5D.append(0)%0A%20%20%20%20%20%20%20%20elif%20result%20%3D%3D%20%22A%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20result_history%5Bhome_team%5D.append(0)%0A%20%20%20%20%20%20%20%20%20%20%20%20result_history%5Baway_team%5D.append(3)%0A%20%20%20%20%20%20%20%20else%3A%20%20%23%20Draw%0A%20%20%20%20%20%20%20%20%20%20%20%20result_history%5Bhome_team%5D.append(1)%0A%20%20%20%20%20%20%20%20%20%20%20%20result_history%5Baway_team%5D.append(1)%0A%0A%20%20%20%20England_Matches_copy%5B%22HomeTrendScore5%22%5D%20%3D%20home_trend_scores%0A%20%20%20%20England_Matches_copy%5B%22AwayTrendScore5%22%5D%20%3D%20away_trend_scores%0A%0A%20%20%20%20England_Matches_copy.dropna(inplace%3DTrue)%0A%0A%20%20%20%20%23%20As%20mentioned%20before%2C%20Diff%20features%20are%20preferred%0A%20%20%20%20England_Matches_copy%5B%22GoalsLast5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeGoalsLast5%22%5D%20-%20England_Matches_copy%5B%22AwayGoalsLast5%22%5D%0A%20%20%20%20England_Matches_copy%5B%22ConcededLast5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeConcededLast5%22%5D%20-%20England_Matches_copy%5B%22AwayConcededLast5%22%5D%0A%20%20%20%20England_Matches_copy%5B%22WinStreakDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeWinStreak%22%5D%20-%20England_Matches_copy%5B%22AwayWinStreak%22%5D%0A%20%20%20%20England_Matches_copy%5B%22ConcededLast5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeConcededLast5%22%5D%20-%20England_Matches_copy%5B%22AwayConcededLast5%22%5D%0A%20%20%20%20England_Matches_copy%5B%22WinStreakDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeWinStreak%22%5D%20-%20England_Matches_copy%5B%22AwayWinStreak%22%5D%0A%20%20%20%20England_Matches_copy%5B%22LossStreakDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeLossStreak%22%5D%20-%20England_Matches_copy%5B%22AwayLossStreak%22%5D%0A%20%20%20%20England_Matches_copy%5B%22RestDaysDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeRestDays%22%5D%20-%20England_Matches_copy%5B%22AwayRestDays%22%5D%0A%20%20%20%20England_Matches_copy%5B%22EloMomentumDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeEloMomentum%22%5D%20-%20England_Matches_copy%5B%22AwayEloMomentum%22%5D%0A%20%20%20%20England_Matches_copy%5B%22DisciplineScoreDiff%22%5D%20%3D%20England_Matches_copy%5B%22HomeDisciplineScore%22%5D%20-%20England_Matches_copy%5B%22AwayDisciplineScore%22%5D%0A%20%20%20%20England_Matches_copy%5B%22AvgCornerDiff5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeAvgCornerDiff5%22%5D%20-%20England_Matches_copy%5B%22AwayAvgCornerDiff5%22%5D%0A%20%20%20%20England_Matches_copy%5B%22AvgShotAcc5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeAvgShotAcc5%22%5D%20-%20England_Matches_copy%5B%22AwayAvgShotAcc5%22%5D%0A%20%20%20%20England_Matches_copy%5B%22AvgShotDiff5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeAvgShotDiff5%22%5D%20-%20England_Matches_copy%5B%22AwayAvgShotDiff5%22%5D%0A%20%20%20%20England_Matches_copy%5B%22TrendScore5Diff%22%5D%20%3D%20England_Matches_copy%5B%22HomeTrendScore5%22%5D%20-%20England_Matches_copy%5B%22AwayTrendScore5%22%5D%0A%20%20%20%20return%20(England_Matches_copy%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Alright%2C%20now%20let's%20build%20a%20model%20without%20looking%20ahead%20to%20predict%20match%20result!%20Let's%20leave%201000%20rows%20for%20final%20testing%2C%20no%20cheat!%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(England_Matches_copy)%3A%0A%20%20%20%20df%20%3D%20England_Matches_copy%5B%0A%20%20%20%20%20%20%20%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22FTResult%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22NetHomeGoal%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22HomeElo%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22AwayElo%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Over25%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22MaxOver25%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22HandiSize%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_OddHome%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_OddDraw%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_OddAway%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_MaxHome%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_MaxDraw%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_MaxAway%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_Under25%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_MaxUnder25%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_HandiHome%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LOG_HandiAway%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22EloDiff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22GoalsLast5Diff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22ConcededLast5Diff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22WinStreakDiff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22LossStreakDiff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22RestDaysDiff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22EloMomentumDiff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22DisciplineScoreDiff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22AvgCornerDiff5Diff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22AvgShotAcc5Diff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22AvgShotDiff5Diff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22TrendScore5Diff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22H2H_HomeWinRate%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22H2H_HomeLossRate%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22H2H_HomeDrawRate%22%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%5D%0A%0A%20%20%20%20FINAL_TESTING%20%3D%20df%5B-1000%3A%5D%0A%20%20%20%20df%20%3D%20df%5B%3A-1000%5D%0A%20%20%20%20return%20FINAL_TESTING%2C%20df%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20ConfusionMatrixDisplay%2C%0A%20%20%20%20GridSearchCV%2C%0A%20%20%20%20LabelEncoder%2C%0A%20%20%20%20Pipeline%2C%0A%20%20%20%20StandardScaler%2C%0A%20%20%20%20XGBClassifier%2C%0A%20%20%20%20classification_report%2C%0A%20%20%20%20df%2C%0A%20%20%20%20make_scorer%2C%0A%20%20%20%20np%2C%0A%20%20%20%20plt%2C%0A%20%20%20%20precision_score%2C%0A%20%20%20%20train_test_split%2C%0A)%3A%0A%20%20%20%20X%20%3D%20df.drop(columns%3D%5B%22FTResult%22%2C%20%22NetHomeGoal%22%5D)%0A%20%20%20%20y%20%3D%20df%5B%22FTResult%22%5D%0A%20%20%20%20le%20%3D%20LabelEncoder()%0A%20%20%20%20y_encoded%20%3D%20le.fit_transform(y)%0A%0A%20%20%20%20X_train%2C%20X_test%2C%20y_train%2C%20y_test%20%3D%20train_test_split(X%2C%20y_encoded%2C%20stratify%3Dy_encoded%2C%20test_size%3D0.2%2C%20random_state%3D322)%0A%0A%20%20%20%20def%20weighted_precision(y_true%2C%20y_pred)%3A%0A%20%20%20%20%20%20%20%20p_A%20%3D%20precision_score(y_true%2C%20y_pred%2C%20labels%3D%5B0%5D%2C%20average%3D%22macro%22%2C%20zero_division%3D0)%0A%20%20%20%20%20%20%20%20p_D%20%3D%20precision_score(y_true%2C%20y_pred%2C%20labels%3D%5B1%5D%2C%20average%3D%22macro%22%2C%20zero_division%3D0)%0A%20%20%20%20%20%20%20%20p_H%20%3D%20precision_score(y_true%2C%20y_pred%2C%20labels%3D%5B2%5D%2C%20average%3D%22macro%22%2C%20zero_division%3D0)%0A%20%20%20%20%20%20%20%20return%200.4%20*%20p_A%20%2B%200.4%20*%20p_H%20%2B%200.2%20*%20p_D%0A%0A%20%20%20%20custom_precision_scorer%20%3D%20make_scorer(weighted_precision)%0A%0A%20%20%20%20class_counts%20%3D%20np.bincount(y_train)%0A%20%20%20%20class_weights%20%3D%20%7Bi%3A%20class_counts.max()%20%2F%20c%20for%20i%2C%20c%20in%20enumerate(class_counts)%7D%0A%20%20%20%20sample_weights%20%3D%20np.array(%5Bclass_weights%5Bc%5D%20for%20c%20in%20y_train%5D)%0A%0A%20%20%20%20model%20%3D%20XGBClassifier(%0A%20%20%20%20%20%20%20%20use_label_encoder%3DFalse%2C%0A%20%20%20%20%20%20%20%20eval_metric%3D%22mlogloss%22%2C%0A%20%20%20%20%20%20%20%20objective%3D%22multi%3Asoftprob%22%2C%0A%20%20%20%20%20%20%20%20num_class%3D3%2C%20%20%23%20NOTE%3A%20should%20be%203%20for%20%22H%22%2C%20%22D%22%2C%20%22A%22%0A%20%20%20%20)%0A%0A%20%20%20%20param_grid%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22clf__n_estimators%22%3A%20%5B15%2C%2020%2C%2050%2C%20100%2C%20150%2C%20200%2C%20300%5D%2C%0A%20%20%20%20%20%20%20%20%22clf__max_depth%22%3A%20%5B2%2C%203%2C%205%2C%207%5D%2C%0A%20%20%20%20%20%20%20%20%22clf__learning_rate%22%3A%20%5B0.0005%2C%200.001%2C%200.002%5D%2C%0A%20%20%20%20%7D%0A%0A%20%20%20%20pipe%20%3D%20Pipeline(%5B(%22scaler%22%2C%20StandardScaler())%2C%20(%22clf%22%2C%20model)%5D)%0A%0A%20%20%20%20grid%20%3D%20GridSearchCV(pipe%2C%20param_grid%2C%20cv%3D3%2C%20scoring%3Dcustom_precision_scorer%2C%20n_jobs%3D-1)%0A%20%20%20%20grid.fit(X_train%2C%20y_train%2C%20clf__sample_weight%3Dsample_weights)%0A%0A%20%20%20%20best_model%20%3D%20grid.best_estimator_%0A%20%20%20%20print(f%22Best%20Params%20for%20XGBoost%3A%20%7Bgrid.best_params_%7D%22)%0A%0A%20%20%20%20y_pred%20%3D%20best_model.predict(X_test)%0A%20%20%20%20y_test_decoded%20%3D%20le.inverse_transform(y_test)%0A%20%20%20%20y_pred_decoded%20%3D%20le.inverse_transform(y_pred)%0A%0A%20%20%20%20ConfusionMatrixDisplay.from_predictions(y_test_decoded%2C%20y_pred_decoded%2C%20display_labels%3Dle.classes_%2C%20cmap%3D%22Blues%22)%0A%20%20%20%20plt.title(%22XGBoost%20(Precision-Weighted%20Scoring)%22)%0A%20%20%20%20plt.show()%0A%0A%20%20%20%20print(%22%5CnXGBoost%20Classification%20Report%3A%5Cn%22)%0A%20%20%20%20print(classification_report(y_test_decoded%2C%20y_pred_decoded%2C%20digits%3D3))%0A%20%20%20%20return%20X%2C%20best_model%2C%20le%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Feature%20importance%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(X%2C%20best_model%2C%20np%2C%20plt)%3A%0A%20%20%20%20final_xgb%20%3D%20best_model.named_steps%5B%22clf%22%5D%0A%20%20%20%20feature_names%20%3D%20X.columns%0A%0A%20%20%20%20importances%20%3D%20final_xgb.feature_importances_%0A%20%20%20%20indices%20%3D%20np.argsort(importances)%5B%3A%3A-1%5D%0A%0A%20%20%20%20top_n%20%3D%208%20%20%23%20number%20of%20top%20features%20to%20show%0A%0A%20%20%20%20plt.figure(figsize%3D(6%2C%206))%0A%20%20%20%20plt.bar(range(top_n)%2C%20importances%5Bindices%5B%3Atop_n%5D%5D%2C%20align%3D%22center%22)%0A%20%20%20%20plt.xticks(range(top_n)%2C%20feature_names%5Bindices%5B%3Atop_n%5D%5D%2C%20rotation%3D45%2C%20ha%3D%22right%22)%0A%20%20%20%20plt.title(f%22Top%20%7Btop_n%7D%20XGBoost%20Feature%20Importances%22)%0A%20%20%20%20plt.tight_layout()%0A%20%20%20%20plt.show()%0A%20%20%20%20return%20(final_xgb%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Seems%20like%20the%20book%20makers%20are%20already%20doing%20a%20great%20job%2C%20but%20our%20head-to-head%20probabilities%20also%20play%20some%20roles.%20Alright%2C%20let's%20check%20it%20out%20in%20the%20final%20test!%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20ConfusionMatrixDisplay%2C%0A%20%20%20%20FINAL_TESTING%2C%0A%20%20%20%20best_model%2C%0A%20%20%20%20classification_report%2C%0A%20%20%20%20final_xgb%2C%0A%20%20%20%20le%2C%0A%20%20%20%20plt%2C%0A)%3A%0A%20%20%20%20X_FINAL_TESTING%20%3D%20FINAL_TESTING.drop(columns%3D%5B%22FTResult%22%2C%20%22NetHomeGoal%22%5D)%0A%20%20%20%20X_FINAL_TESTING_scaled%20%3D%20best_model.named_steps%5B%22scaler%22%5D.transform(X_FINAL_TESTING)%0A%0A%20%20%20%20y_pred_FINAL_TESTING%20%3D%20final_xgb.predict(X_FINAL_TESTING_scaled)%0A%20%20%20%20y_pred_FINAL_TESTING_decoded%20%3D%20le.inverse_transform(y_pred_FINAL_TESTING)%0A%0A%20%20%20%20y_true_FINAL_TESTING%20%3D%20le.transform(FINAL_TESTING%5B%22FTResult%22%5D)%0A%0A%20%20%20%20print(classification_report(y_true_FINAL_TESTING%2C%20y_pred_FINAL_TESTING%2C%20digits%3D3))%0A%0A%20%20%20%20ConfusionMatrixDisplay.from_predictions(%0A%20%20%20%20%20%20%20%20le.inverse_transform(y_true_FINAL_TESTING)%2C%0A%20%20%20%20%20%20%20%20y_pred_FINAL_TESTING_decoded%2C%0A%20%20%20%20%20%20%20%20display_labels%3Dle.classes_%2C%0A%20%20%20%20%20%20%20%20cmap%3D%22Blues%22%2C%0A%20%20%20%20)%0A%20%20%20%20plt.title(%22Evaluation%20on%20FINAL_TESTING%22)%0A%20%20%20%20plt.show()%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20Not%20bad!%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Future%20Improvement%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%201.%20Seems%20like%20the%20engineered%20features%20are%20not%20very%20important%20after%20all%2C%20and%20the%20%60Odds%60%20features%20are%20very%20important.%20This%20is%20making%20sense%20though%2C%20as%20I'm%20sure%20the%20gambling%20organizations%20have%20more%20detailed%20features%20of%20the%20matches%20and%20have%20better%20understanding%20of%20the%20chances%3B%0A%20%20%20%202.%20The%20model%20has%20very%20poor%20performance%20when%20predicting%20for%20Draw%3A%20this%20is%20a%20big%20problem%20in%20soccer%20match%20prediction%20in%20general.%20In%20fact%2C%20out%20model%20is%20doing%20pretty%20good%20in%20real-world%20standard%2C%20see%20%5Bhere%5D(https%3A%2F%2Fjournalofbigdata.springeropen.com%2Farticles%2F10.1186%2Fs40537-024-01008-2)%3B%0A%20%20%20%203.%20If%20we%20change%20the%20random%20state%20of%20sampling%2C%20sometimes%20the%20model's%20feature%20importance%20chances%20quite%20a%20bit%2C%20makes%20me%20wonder%20if%20the%20model%20is%20not%20very%20robust.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A