Comparison of Linear Regression Models for Quantitative Geochemical Analysis: An Example Using X-Ray Fluorescence Spectrometry

Mirna Guevara (1)*, Surendra P. Verma (1, 2), Fernando Velasco-Tapia (1, 3) Rufino Lozano-Santa Cruz (4) and Patricia Girón (4)

(1) Centro de Investigación en Energía, UNAM, Privada Xochicalco s/no., Col. Centro, Apartado Postal 34, Temixco, Mor. 62580, Mexico
(2) Centro de Investigación en Ingeniería y Ciencia Aplicada, UAEM, Av. Universidad no. 1001, Col. Chamilpa, Cuernavaca, Mor. 62210, Mexico
(3) Facultad de Ciencias de la Tierra, UANL, Carretera Linares-Cerro Prieto km 8, Apartado Postal 104, Linares, N.L. 67700, Mexico
(4) Instituto de Geología, UNAM, Ciudad Universitaria, Apartado Postal 40-276, Mexico, D.F. 04510, Mexico
*Corresponding author. e-mail: mygg@cie.unam.mx

Abstract
This paper presents statistical aspects related to the calibration process and a comparison of different regression approaches of relevance to almost all analytical techniques. The models for ordinary least-squares (OLS), weighted least-squares (WLS), and maximum likelihood fitting (MLF) were evaluated and, as a case study, X-ray fluorescence (XRF) calibration curves for major elements in geochemical reference materials were used. The results showed that WLS and MLF models were statistically more consistent in comparison with the usually applied OLS approach. The use of uncertainty on independent and dependent variables during the calibration process and the calculation of final uncertainty on individual results using error propagation equations are the novel aspects of our work.

Keywords: analytical calibration, linear regression, geochemical reference materials, analytical geochemistry, error propagation.

Résumé
Cet article présente les aspects statistiques liés au processus de calibration et fait une comparaison des différents calculs de régression utilisés dans pratiquement toutes les techniques analytiques. Les modèles des moindres carrés ordinaires (MCO) et pondérés (MCP), et d'ajustement de maximum de vraisemblance (AMV) ont été évalués et appliqués aux courbes de calibration d'éléments majeurs obtenues en analyse par fluorescence X (XRF) de matériaux certifiés de référence. Les résultats obtenus avec les modèles MCP et AMV sont plus cohérents statistiquement que ceux obtenus la méthode classique des MCO. L'utilisation de l'incertitudes sur des variables indépendantes ou dépendantes durant la procédure de calibration et le calcul de l'incertitude finale sur chaque résultat à partir des lois de propagation d'erreur sont des aspects novateurs de ce travail.

Mots-clés : calibration analytique, régression linéaire, matériaux de référence en géochimie, géochimie analytique, loi de propagation d'erreurs.

Received 20 Dec 04 - Accepted 14 Jul 05

Geostandards and Geoanalytical Research
Vol. 29 No. 3 pp. 271-284 (2005)



Return to Contents list | Index Volume 29

Return to main page Geostandards and Geoanalytical Research

Copyright   © Association Scientifique pour la Géologie et ses Applications
Vandoeuvre-lès-Nancy, France.