]]> donde:en cuatro variantes de datos (A, B, C, D), según se resume en la Tabla 1.

En este trabajo se analiza la efectividad de la Regresión Ridge y Regresión sobre Componentes Principales en la precisión y exactitud de los estimadores de los parámetros de la regresión lineal múltiple, con respecto a lo obtenido mediante el método de los mínimos cuadrados ordinarios.

El principal problema en la Regresión Ridge es encontrar aquel valor de k que compense el sesgo y la reduc-ción de varianza. Un método usado fue la “traza ridge” (Zárate, 1985; Carvalho et al., 1999), este es un gráfico que brinda una información valiosa de lo que ocurre al incrementarse k, a partir de valores próximo a cero se observa un cambio brusco, después se estabiliza, precisamente se debe seleccionar k en el momento de estabilidad. Durante este proceso el VIF (sigla en inglés del Factor de inflación de varianza) decrece, al principio rápidamente y luego de modo más gradual. La estimación de la varianza de los estimadores de los parámetros del modelo aumenta suavemente cuando se incrementa k (Rook y Gill, 1990).

En la Regresión sobre Componentes Principales, mediante el cálculo de los vectores y valores propios se crean nuevas variables ortogonales (Y1, Y2, Y3 y Y4), que son combinación lineal de las variables regresoras originales para cada variante, A, B, C y D.
Estas variables ortogonales se utilizan para obtener los estimadores de los parámetros del nuevo modelo usando MCO. Estos coeficientes son difíciles de interpretar por ser combinación de las variables originales, para solucionar esta dificultad se regresa a las variables originales. Es de destacar que siguiendo este método no queda eliminada ninguna de las variables estructurales del modelo, aunque sea necesario algún método de selección de variables, pues estos actúan sobre las componentes (Morzuch y Ruark, 1991).
Se usó el paquete estadístico Statgraphics Plus versión 4.1 (1999) y las posibilidades que tiene el MathCAD versión 5.0 sobre Windows (1996) asistente profesional en Matemática muy útil en trabajo con matrices.
Al aplicar a la Regresión el método de los Mínimo Cuadrado Ordinario, se obtuvieron: ]]>
• Los estimadores de los parámetros del modelo.
• Los errores estándar de los estimadores.
• La prueba t sobre los parámetros del modelo.
• La prueba F sobre el modelo (ANOVA).
• Coeficiente de determinación.
• Cuadrado medio del error, y el error estándar de la estimación.

Posteriormente se aplicó la Regresión Ridge y la Regresión sobre Componentes Principales. Una vez obteni-das todos los resultados con los diferentes procedimientos, se analizó para cada una de las variantes de datos, el compor¬tamiento de las variables en cuanto a ser colineal con otra variable, para lo cual se usaron todas las herramientas, planteadas por los diferentes autores, para atenuar o resolver la multicolinealidad.
]]>  

 

RESULTADOS Y DISCUSIÓN

En las Tablas 2 y 3 aparecen la media aritmética, desviación típica y coeficiente de variación de los estimadores de la Regresión Lineal Múltiple, haciendo uso de los MCO, en cada variante A, B, C y D.

En la Tabla 2 se resume, la media aritmética en cada uno de los estimadores MCO, la desviación típica así como el coeficiente de variación. También se resume en la Tabla 3 estos mismos estadígrafos para un juego de datos que tiene la característica de no presentar problemas de multicolinealidad.

Como se conoce los estimadores MCO poseen la propiedad de ser insesgados, esto es avalado por lo obtenido en las muestras representadas por las variantes de datos A, B, C y D. Los estimadores en promedio están próximos a (según construcción del modelo), este resultado es importante por cuanto confirma lo planteado teóricamente. Por otra parte también se presenta la desviación típica y el coeficiente de variación, esto permite ver el comportamiento en cuanto a la variabilidad de los estimadoresde los parámetros del modelo.

En la Tabla 2 se observa que la Desviación Típica en los estimadores de , sobrepasa  un valor aceptable (debe estar próximo a los que se sugieren en la Tabla 3 ó también el que se encuentra en la Tabla 2 . El estimador de corresponde a la única variable que se excluyó de la colinealidad, por lo que entre otras cosas cumple con el propósito de ser fuente de comparación, aquí es útil para ello, observe que la Desviación Típica de ₄ es de 0,06. Se agrega el Coeficiente de Variación (C.V.) en todos los casos, este estadígrafo cumple con dar una información de la variabilidad en el conjunto de datos en forma relativa, muy útil para hacer comparaciones (Ostle, 1981).

En la Tabla 4 se recogen los resultados de media aritmética, desviación típica y coeficiente de variación. ]]>

Como se observa en la Tabla 4, los estimadores que se obtienen por la Regresión Múltiple en las variables que están afectadas por la colinealidad, en promedio tienden a estar aproximadamente sobre 1 en caso de los términos de las variables, y aproximadamente 5 en el caso del término independiente, esto confirma el hecho conocido de que los estimadores Mínimo Cuadrado Ordinarios son insesgados, es decir el valor esperado es precisamente el valor del parámetro que están estimando, en este caso se conoce ese parámetro pues se parte del modelo conocido. Por otra parte se observa que precisamente esos estimadores están alejados del parámetro en muestras individuales en los juegos de datos, esto se debe al hecho discutido hasta ahora de que los estimadores en presencia de multicolinealidad se vuelven inestables haciendo que sus varianzas sean grandes (Aksu y Gunter, 1994; Gómez, 1995, Gunter y Aksu, 1997).

 

Los estimadores en la Regresión Ridge se comportan en cuanto al insesgamiento en estos juegos de datos mejor que los de Mínimo cuadrados Ordinarios, pero la cualidad a resaltar en ellos es la precisión con que estiman a los parámetros del modelo, siendo realmente por teoría estimadores sesgados (Leiby y Adams, 1991; Lynch et al., 1993; Parternaket al., 1997).

 

En cuanto a los estimadores componentes principales, la cualidad a destacar en estos es que se han obtenidos en variables o regresoras incorrelacionadas por lo que la inflación de varianza para cada uno de ellos es exactamente uno, es decir la varianza no está inflada por lo que se convierten en mejores estimadores, de hecho son los más atractivos, eso se deja ver pues en la mayoría de los trabajos revisados en la bibliográfica resuelven el problema de la colinealidad recurriendo a los Componentes Principales (Ovalles y Collins, 1988; Aparicio, 1992; Lipp, 1996; Genachteet al., 1996, Plotto y Anita, 1997), entre otros. La gran dificultad es que los estimadores no tienen interpretación hasta tanto no se retorne a las variables originales, y esto no está contemplado en muchos programas estadísticos. Una vez que se tiene la salida se procede a aplicar algún método de eliminación de variables, este no elimina las variables originales pues se aplica a las componentes y después se retorna, obteniéndose como resultado final todas las variables originales.

 

Las técnicas existentes para detectar y tratar la multicolinealidad no siempre logran el éxito teniéndose que recurrir a más de una de éstas, por lo que no se puede sugerir una receta para abordar el problema, pero si se proponen los siguientes pasos para evitar su efecto indeseable:

·    Análisis de la matriz de correlaciones entre las variables explicatorias, como medida de diagnóstico de la multicolinealidad

·    Resumen o sumario estadístico de ajuste del modelo como son: prueba F parcial y total.

]]> ·    Error estándar de los estimadores y coeficiente de determinación.

·    La prueba T sobre cada uno de los parámetros del modelo.

·    Determinación y análisis de los valores y vectores propios.

·    Identificación de las variables involucradas en la multicolinealidad, mediante la contribución proporcional de los componentes sobre el VIF.

·     Determinación y análisis del Número de Condición (NC), Índice de Condición (IC) y el Factor de Inflación de Varianza (VIF), con el objetivo de precisar la existencia de una multicolinealidad, y posteriormente atenuarla imponiendo restricciones:

·    Sobre las variables independientes añadiendo una constante a sus varianzas antes de resolver las ecuaciones normales (Regresión Ridge).

·    Sobre las variables independientes ortogonalizándolas (Regresión sobre Componentes Principales).

 

 

 

]]>  

REFERENCIAS BIBLIOGRÁFICAS

 

1.AKSU, C. & L. GUNTER: Efficiency of combinations of forecast using inequality restricted least squares,pp. 47-60, Economical& Financial Modelling,Spring, 1994.

 

2.APARICIO, R.; F. GUTIÉRREZ & R. MORALES: “Relationship between flavour descriptors and overall grading of analytical panels for virgin olive oil”,J. Sci. Food. Agric., 58(4): 555-562, 1992.

 

3.BOWERMAN, B.L. & T. O’CONNELL: Linear Statistical Models: an Applied Approach,1024pp.,PWS-Kent, Boston, 1990.

 

4.CARVALHO, C.G.P.; R. OLIVEIRA; D. CRUZ & D. CASALI: “Análise de trilhasobmulticolinearidadeempimentao”,Pesq. Agropec. Bras.,Brasilia, 34(4): 603-613,1999.

 

5.CHACÍN LUGO, F.: Análisis de Regresión y Superficie de Respuesta,274pp., Universidad Central de Venezuela, Caracas, 1998.

 

6.CHARETTE, R.; M. BIGRAS-POULIN & P. MARTINEAU: “Body condition evaluation in sows”Livestock-Production-Science, 46(2): 107-115,1996.

]]>  

7.Draper, N. &H. Smith:Applied regression analysis, Second Edition, John Wiley and Sons, Inc. New York, NY,USA, 1981.

 

8.DOMECQ, J.J.; L. SKIDMORE; W. LLOYD & B. KANEENE:“Relationship between body condition scores and milk yield in a large dairy herd of high yielding Holstein cows”,Journal off Dairy Science, 80(1): 101-112,1997.

 

9.FERNÁNDEZ, L.: Modelos Estadísticos-Matemáticos en el análisis de la curva de lactancia y factores que la afectan en el genotipo Siboney de Cuba, 100pp., Tesis (presentada en opción al grado de Doctor en Ciencias Veterinarias), Instituto de Ciencia Animal, La Habana, Cuba, 2004.

 

]]>

10.GENACHTE, G. VAN DE; D. MALLANTS; J. RAMOS; A. DECKERS; J. FEYEN & G. VAN DE GENACHTE: “Estimatinginfiltrationparametersfrombasicsoilproperties”, HidrologicalProcesses, 10(5): 687-701,1996.

 

11.GUJARATI, D. N.: Econometría, 2ª edición. ENSPES,Universidad de La Habana,Cuba, 1992.

 

12.GÓMEZ, S. M.J.: Contribución al Análisis Multivariante directo del Gradiente mediante estudios combinados de Configuraciones Espaciales,Tesis Doctoral, Universidad de Salamanca,Salamanca, España,1995.

 

13.GUNST, F.R. & R. MASON: Regression analysis and its Applications,402pp.,A Data Oriented Approach, Marcel Dekker, New York and Basel. USA, 1980.

 

14.GUNTER, S.I. & C. AKSU: “The usefulness of heuristic N(E)RLS algorithms for combining forecasts”,J. Forecasting, 16(6): 439-463, 1997.

 

15.HELSEL, D.R. & M. HIRSCH: Statistical Methods in Water Resources,522pp.,Elsevier, New York, USA, 1992.

 

16.HOERL, A.E. & W. KENNARD:“Ridge Regression; Apllications to nonorthogonal problems”,Technometrics, 12:55-67, 69-82,1970.

 

]]>

17.LEIBY, J.D. & D. ADAMS: “The returns to agriculture research in Maine: the case of a small northeastern experiment station”,Northeast J.AgricResour Econ.,20(1): 1-14, April1991.

 

18.LIPP, P.: “Comparison of PLS, PCR and MLR for the quantitative determination of foreign oils and fats in butter fats of several European countries by their triglyceride composition”,Zeitschrift fur LebensmittelUntersuchung und Forschung, 202(3): 193-198, 1996.

 

19.LYNCH, T.B.; A. MAX; E. BURKHART & J. LIU: “Prediction equations for centers of gravity and moments of inertia of loblolly pine stems”,For Sci, Bethesda, Md.: Society of American Foresters, 39(2): 260‑274, May1993.

 

20.MORZUCH, B.J. & A. RUARK: Principal Components Regression to Mitigate the Effects of Multicollinearity. Forest Science, 37(1): 191-199, 1991.

 

21.OSTLE, B.: Estadística Aplicada,629pp., Editorial Científico Técnico, La Habana, Cuba, 1981.

 

22.OVALLES, F. A. & E. COLLINS: “Variability of Northwest Florida Soils by Principal Component Analysis”,Soil. Sci. Soc. Am. J., 52: 1430-1435,1988.

 

23.PASTERNAK, H. Z., E. SCHMILOVICH & Y. FALLIK: Edan. Ridge Regression for NIR analysis with multicollinearity, In: 3^rd International Symposium on Sensors in Horticulture, Tiberias, Israel, August 17-21.1997.

]]>  

24.PEÑA SÁNCHEZ DE RIVERA, D.: Estadística, modelos y métodos, Alianza Universidad Textos, Tomo II: Modelos Lineales y Series Temporales, Segunda edición, primera reimpresión, España,1992.

 

25.PLOTTO, A.; N. AZARENKO; R. MCDANIEL; W. CROCKETT & P. MATTHEIS: “Eating quality of ‘Gala’ and ‘Fuji’ apples from multiple harvests and storage durations”,Hortscience, 32(5): 903-908,1997.

 

26.ROKK, A. J. & M. GILL: “Prediction of the voluntary intake of grass silages by beff cattle, 2. Principal Component and Ridge Regression Analysis”,Anim. Prod., 50: 439-454,1990.

 

]]>

27.SMUTS, M.; H. MEISSNER &; B. CRONJE: “Retention time of digesta in the rumen: its repeatability and relationship with wool production of Merino rams”,J. anim. sci., 73(1): 206-210,1995.

 

28.ZÁRATE DE L., G.P. y B. DÍAZ: “Técnicas de Manejo y Puntos de Influencia y Multicolinealidad en regresión Lineal”,Agrociencia, 61: 41-58,1985.