A métrica de desempenho do modelo utilizada para avaliar o modelo de regressão linear é o coeficiente de determinação. É conhecido como "R ao quadrado", e denotado como "R2" [ 1, 2 ].
R2 é basicamente a proporção da variação na variável resposta que é previsível a partir das variáveis independentes. Ou seja, quanto maior o valor de R2, mais variabilidade é explicada pelo modelo.
Normalmente, R2 varia de 0 a 1; no entanto, pode haver casos em que valores negativos podem ser obtidos, consulte [1] para mais detalhes.
Neste caso, uma pontuação R2 de '0,75' é alcançada.
123456#Computes the R2 score
R2=hgr.score( test_hdf, key='ID',
features=['MedInc', 'HouseAge', 'AveRooms', 'AveBedrms', 'Population', 'AveOccup', 'Latitude', 'Longitude'],
label='Target')
R2Saída:
0.7535287346593224
Referências
[1] Coeficiente de determinação
[2] Coeficiente de determinação (coeficiente de determinação)
Melhore o modelo HGBT com a pesquisa de parâmetros ideal
Para melhorar o modelo HGBT, é iniciada uma pesquisa dos valores de parâmetro ideais para o objeto de regressão linear. ParamSearchCV faz uma pesquisa exaustiva ou aleatória sobre valores de parâmetros especificados com validação cruzada (CV) [1]
Referências
[1] Algoritmo SAP hana_ml.algorítms.pal pacote: ParamSearchCV
123456789101112131415161718from hana_ml.algorithms.pal.model_selection import ParamSearchCV
hgbr=HybridGradientBoostingRegressor(n_estimators=50, subsample = 0.8, col_subsample_tree=0.7)
ps_hgr3=ParamSearchCV(estimator=hgbr, search_strategy='grid',
param_grid={ 'learning_rate': [0.05, 0.1, 0.025, 0.04, 0.01],
'max_depth': [4, 5, 6, 7, 8, 10],
'split_threshold': [0.1, 0.4, 0.7, 1],
'min_samples_leaf': [2,3,4,5,6],
'col_subsample_split': [0.2,0.4,0.6, 0.8] },
train_control={"fold_num": 10, "evaluation_metric": 'rmse'},
scoring='mae'
)
ps_hgr3.set_scoring_metric('mae')
ps_hgr3.set_resampling_method('cv')
ps_hgr3.fit(data=train_hdf, features=['MedInc', 'HouseAge', 'AveRooms', 'AveBedrms', 'Population', 'AveOccup', 'Latitude', 'Longitude'],
label='Target', key='ID')Inspeção de parâmetros otimizados
O mapeamento entre os nomes de parâmetro otimizados (como exibido no lado esquerdo) e os nomes de parâmetro HybridGradientBoostingRegressor (como exibido no lado direito) é fornecido abaixo:
- MAX_DEPTH = max_profundidade
- ETA = taxa de aprendimento_aprendizagem
- COL_SAMPLE_RATE_BYSPLIT = col_subsample_split
- NODE_SIZE = min_samples_leaf
- GAMMA = split_threshold
1ps_hgr3.estimator.selected_param_.collect()| PARAM_NAME | INT_VALUE | DOUBLE_VALUE | STRING_VALUE | |
|---|---|---|---|---|
| 0 | MAX_DEPTH | 10.0 | NaN | Nenhum |
| 1 | HCP | NaN | 0.1 | Nenhum |
| 2 | COL_SAMPLE_RATE_BYSPLIT | NaN | 0,6 | Nenhum |
| 3 | NODE_SIZE | 6.0 | NaN | Nenhum |
| 4 | GAMMA | NaN | 0.1 | Nenhum |
12# Optimal parameter values selected
hgbt_params = dict(n_estimators = 50, subsample = 0.8, col_subsample_tree=0.7, split_method = 'exact', fold_num=10, resampling_method = 'cv', evaluation_metric = 'rmse', ref_metric=['mae'], max_depth=10, learning_rate=0.1, col_subsample_split=0.6, min_samples_leaf=6, split_threshold=0.1)