<?xml version="1.0" encoding="ISO-8859-1"?><article xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
<front>
<journal-meta>
<journal-id>1024-9435</journal-id>
<journal-title><![CDATA[ACIMED]]></journal-title>
<abbrev-journal-title><![CDATA[ACIMED]]></abbrev-journal-title>
<issn>1024-9435</issn>
<publisher>
<publisher-name><![CDATA[Centro Nacional de Información de Ciencias Médicas]]></publisher-name>
</publisher>
</journal-meta>
<article-meta>
<article-id>S1024-94352001000400008</article-id>
<title-group>
<article-title xml:lang="es"><![CDATA[Indicadores bibliométricos y econométricos en la evaluación de instituciones científicas]]></article-title>
</title-group>
<contrib-group>
<contrib contrib-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[Ronald]]></given-names>
</name>
</contrib>
</contrib-group>
<aff id="A">
<institution><![CDATA[,  ]]></institution>
<addr-line><![CDATA[ ]]></addr-line>
</aff>
<pub-date pub-type="pub">
<day>00</day>
<month>00</month>
<year>2001</year>
</pub-date>
<pub-date pub-type="epub">
<day>00</day>
<month>00</month>
<year>2001</year>
</pub-date>
<volume>9</volume>
<fpage>50</fpage>
<lpage>60</lpage>
<copyright-statement/>
<copyright-year/>
<self-uri xlink:href="http://scielo.sld.cu/scielo.php?script=sci_arttext&amp;pid=S1024-94352001000400008&amp;lng=en&amp;nrm=iso"></self-uri><self-uri xlink:href="http://scielo.sld.cu/scielo.php?script=sci_abstract&amp;pid=S1024-94352001000400008&amp;lng=en&amp;nrm=iso"></self-uri><self-uri xlink:href="http://scielo.sld.cu/scielo.php?script=sci_pdf&amp;pid=S1024-94352001000400008&amp;lng=en&amp;nrm=iso"></self-uri><abstract abstract-type="short" xml:lang="es"><p><![CDATA[Este artículo consta de 2 partes. La primera describe la evaluación de una pequeña universidad a partir de datos cienciométricos, con el objetivo principal de analizar la investigación con visibilidad internacional. La segunda parte muestra cómo un método econométrico (DEA: data enveloping analysis) puede aplicarse entre otros aspectos como medio de evaluación para determinar los recursos disponibles. Asimismo se demuestra cómo un cuerpo teórico que combina la bibliometría, la cienciometría y la econometría puede aplicarse a problemas concretos.]]></p></abstract>
<abstract abstract-type="short" xml:lang="en"><p><![CDATA[This article consists of two parts: the first part describes the evaluation of a small university it is based on scientometric data and aims mainly at the evaluation of internationally visible research. The second part shows how an econometric method (DEA: data enveloping analysis) can be used to include teaching and other aspects, e.g. fund raising, into the evaluation. Both approaches show how a body of bibliometric, scientometric and econometric theory can be applied to real world problems.]]></p></abstract>
<kwd-group>
<kwd lng="es"><![CDATA[CIENCIOMETRIA]]></kwd>
<kwd lng="es"><![CDATA[INVESTIGACION]]></kwd>
<kwd lng="es"><![CDATA[EVALUACION]]></kwd>
<kwd lng="es"><![CDATA[ECONOMETRIA]]></kwd>
<kwd lng="es"><![CDATA[FACTOR DE IMPACTO]]></kwd>
<kwd lng="es"><![CDATA[ANALISIS DE CITAS]]></kwd>
<kwd lng="es"><![CDATA[PRODUCCION CIENTIFICA]]></kwd>
<kwd lng="es"><![CDATA[PUBLICACION ELECTRONICA]]></kwd>
<kwd lng="es"><![CDATA[BIBLIOMETRIA]]></kwd>
<kwd lng="es"><![CDATA[UNIVERSIDADES]]></kwd>
<kwd lng="es"><![CDATA[UNIVERSIDADES]]></kwd>
<kwd lng="en"><![CDATA[SCIENTOMETRICS]]></kwd>
<kwd lng="en"><![CDATA[RESEARCH]]></kwd>
<kwd lng="en"><![CDATA[EVALUATION]]></kwd>
<kwd lng="en"><![CDATA[ECONOMETRICS]]></kwd>
<kwd lng="en"><![CDATA[IMPACT FACTOR]]></kwd>
<kwd lng="en"><![CDATA[CITATION ANALYSIS]]></kwd>
<kwd lng="en"><![CDATA[SCIENTIFIC PRODUCTION]]></kwd>
<kwd lng="en"><![CDATA[ELECTRONIC PUBLISHING]]></kwd>
<kwd lng="en"><![CDATA[BIBLIOMETRICA UNIVERSITIES]]></kwd>
<kwd lng="en"><![CDATA[UNIVERSITIES]]></kwd>
</kwd-group>
</article-meta>
</front><body><![CDATA[   <H2> Indicadores bibliom&eacute;tricos y econom&eacute;tricos en la evaluaci&oacute;n de instituciones cient&iacute;ficas<SUP>*</SUP></H2> Ronald Rousseau<SUP>1</SUP> <H4> RESUMEN</H4> Este art&iacute;culo consta de 2 partes. La primera describe la evaluaci&oacute;n de una peque&ntilde;a universidad a partir de datos cienciom&eacute;tricos, con el objetivo principal de analizar la investigaci&oacute;n con visibilidad internacional. La segunda parte muestra c&oacute;mo un m&eacute;todo econom&eacute;trico (DEA: data enveloping analysis) puede aplicarse entre otros aspectos como medio de evaluaci&oacute;n para determinar los recursos disponibles. Asimismo se demuestra c&oacute;mo un cuerpo te&oacute;rico que combina la bibliometr&iacute;a, la cienciometr&iacute;a y la econometr&iacute;a puede aplicarse a problemas concretos.      <P>Desccriptores DeCS: CIENCIOMETRIA; INVESTIGACION; EVALUACION; ECONOMETRIA/m&eacute;todos; FACTOR DE IMPACTO; ANALISIS DE CITAS; PRODUCCION CIENTIFICA; PUBLICACION ELECTRONICA; BIBLIOMETRIA; UNIVERSIDADES/eficiencia; UNIVERSIDADES/efectividad.      <P>El presente art&iacute;culo se ha dividido en 2 partes. La primera describe la evaluaci&oacute;n de una peque&ntilde;a universidad de Flandes, B&eacute;lgica, conocida como LUC a partir de datos cienciom&eacute;tricos, con el objetivo principal de analizar la investigaci&oacute;n con visibilidad internacional.      <P>La segunda parte muestra c&oacute;mo puede utilizarse un m&eacute;todo econom&eacute;trico como instrumento de evaluaci&oacute;n para determinar los recursos disponibles. Tambi&eacute;n se demuestra c&oacute;mo un cuerpo te&oacute;rico que combina la bibliometr&iacute;a, la cienciometr&iacute;a y la econometr&iacute;a puede aplicarse a problemas concretos,<SUP>1,2</SUP> y que, por tanto, la bibliometr&iacute;a puede ser la soluci&oacute;n adecuada para determinados problemas.<SUP>3</SUP> <H4> Primera parte: Estudio cienciom&eacute;trico de las publicaciones cient&iacute;ficas de LUC</H4> Este estudio, autorizado por el Rector y por el Consejo de Investigaciones de LUC, investiga la posici&oacute;n international de la Facultad de Ciencia y Medicina de esa instituci&oacute;n,<SUP>4</SUP> y describe en particular en el per&iacute;odo de 1981 a 1993: <UL>     <LI> La dimensi&oacute;n del potencial investigativo de todos los grupos dedicados a esa actividad, medida en t&eacute;rminos de equivalencia persona-a&ntilde;o (person-year equivalents, PYE) consagrada a la investigaci&oacute;n cient&iacute;fica.</LI>      <LI> Los resultados de la investigaci&oacute;n, en particular, la posici&oacute;n internacional evidenciada por las publicaciones en revistas cient&iacute;ficas; especialmente, la proporci&oacute;n en que estas publicaciones fueron citadas en la literatura profesional internacional.</LI>      <LI> Las observaciones hechas por los cient&iacute;ficos en relaci&oacute;n con los m&eacute;todos cienciom&eacute;tricos y sus resultados.</LI>     </UL> Para poder comparar los resultados de LUC con los de otras instituciones, el m&eacute;todo empleado se aplic&oacute; tambi&eacute;n en la evaluaci&oacute;n de otras universidades.<SUP>5,6</SUP> <H4> Premisas, objetivos y advertencias</H4> La aplicaci&oacute;n de los m&eacute;todos cienciom&eacute;tricos para la evaluaci&oacute;n de investigaciones cient&iacute;ficas<SUP>7,8</SUP> se basa en las siguientes premisas: <DIR>a) El progreso se alcanza mediante el trabajo de los cient&iacute;ficos.      <P>b) En su trabajo, estos cient&iacute;ficos se basan en la obra de colegas y de precursores en su campo.      <P>c) Se publican los resultados de este trabajo.      ]]></body>
<body><![CDATA[<P>d) Se someten a la apreciaci&oacute;n de pares iguales.      <P>e) Los cient&iacute;ficos muestran en sus publicaciones c&oacute;mo se han basado en el trabajo previo de otros, al mencionar en sus textos una lista de referencias.      <P>f) Las revistas cient&iacute;ficas desempe&ntilde;an un papel esencial en la comunicaci&oacute;n entre colegas cient&iacute;ficos. Esta es la principal raz&oacute;n por la que la literatura cient&iacute;fica es una representaci&oacute;n de la actividad cient&iacute;fica y de la red de relaciones entre subcampos.      <P>g) El n&uacute;mero de publicaciones de un grupo de investigaci&oacute;n, puede considerarse un indicador de su producci&oacute;n cient&iacute;fica.      <P>h) El n&uacute;mero de veces que la obra de un grupo es citada por otras publicaciones, da la medida del impacto y de la visibilidad internacional de esa obra.      <P>i) En el sistema global de revistas, se puede distinguir entre las "centrales", es decir, las revistas internacionales importantes, y las perif&eacute;ricas que son de orientaci&oacute;n m&aacute;s regional.      <P>j) El Instituto de Informaci&oacute;n Cient&iacute;fica (ISI) abarca por medio de su &Iacute;ndice de Citas Cient&iacute;ficas (SCI), el grueso de las revistas internacionales importantes en las ciencias puras, aplicadas y m&eacute;dicas.</DIR> El &iacute;ndice de Citas de las Ciencias Sociales (SSCI) tiene la misma funci&oacute;n para el &aacute;rea de las ciencias sociales.      <P>Los indicadores cienciom&eacute;tricos no est&aacute;n destinados a sustituir a los especialistas, sino m&aacute;s bien a hacer que las investigaciones sean visibles y analizables, de manera que los especialistas tengan una adecuada informaci&oacute;n a su disposici&oacute;n y por tanto puedan formular una opini&oacute;n mejor fundamentada.<SUP>9,10</SUP> Estos indicadores son m&aacute;s eficaces cuanto m&aacute;s alto sea el nivel de agregaci&oacute;n.<SUP>11</SUP>      <P>Los cient&iacute;ficos que laboran en las universidades tienen varias responsabilidades: adm&aacute;s de la ense&ntilde;anza y la investigaci&oacute;n, tienen una obligaci&oacute;n para con la sociedad en su conjunto. El m&eacute;todo cienciom&eacute;trico considera s&oacute;lo el aspecto investigativo, esencialmente el alcance de las contribuciones de un grupo de investigaci&oacute;n en relaci&oacute;n con el desarrollo de nuevos conocimientos en el frente investigativo. Esto implica que muchas de las actividades normales de los investigadores, no se toman en consideraci&oacute;n.      <P>Los resultados de esta investigaci&oacute;n se distribuyeron en tres versiones. La primera contiene los resultados de cada grupo por separado. Cada grupo de investigaci&oacute;n recibi&oacute; un informe que conten&iacute;a s&oacute;lo sus resultados, adem&aacute;s de una copia con la descripci&oacute;n de los resultados globales de LUC. La segunda versi&oacute;n que s&oacute;lo contiene los resultados globales de LUC, se reparti&oacute; a los grupos de investigadores y al Consejo de Investigaciones. Finalmente hay una versi&oacute;n oficial (en holand&eacute;s) dada a conocer p&uacute;blicamente (tras ser aprobada por el Consejo de Investigaciones), para que los interesados en los m&eacute;todos y en los resultados puedan consultarla. Esta versi&oacute;n oficial ha sido traducida al ingl&eacute;s<SUP>4</SUP> y todos los datos en ella contenidos se han mantenido en el anonimato. <H4> Indicadores de entrada</H4> Se estim&oacute; la capacidad investigativa de cada grupo, expresada en equivalentes persona-a&ntilde;o en la investigaci&oacute;n (PYE-Res).      ]]></body>
<body><![CDATA[<P>Para obtener esta cifra, se observaron las siguientes reglas.      <P>Se introdujo un par&aacute;metro de investigaci&oacute;n que expresaba una fracci&oacute;n de horas trabajadas en una investigaci&oacute;n, para lo cual se emplearon los mismos porcentajes de la OECD, o sea, en cuanto a los miembros del personal pagado por la propia universidad, este par&aacute;metro se fij&oacute; en 0,4(40 %); en lo que respecta a los investigadores pagados por la Fundaci&oacute;n Nacional de la Ciencia y otras organizaciones similares, el par&aacute;metro se estableci&oacute; en 1,0 (100 %); el personal acad&eacute;mico empleado por un per&iacute;odo menor al 100 % se contabiliz&oacute; en proporci&oacute;n al porcentaje de su tiempo de trabajo (los que ten&iacute;an un trabajo a tiempo parcial su par&aacute;metro se valor&oacute; en 0,2). Si el porcentaje del r&eacute;gimen de trabajo es inferior al 20 %, las personas en este caso s&oacute;lo se consideran como profesores y su par&aacute;metro investigativo se calcula en 0,0. Con el uso de estos par&aacute;metros y el n&uacute;mero de personas activas en cada grupo de investigaci&oacute;n, se calcul&oacute; el indicador PYE-Res/a&ntilde;o, es decir, los equivalentes promedio persona-a&ntilde;o en labores investigativas durante el per&iacute;odo 1981-1993. <H4> Indicadores de producci&oacute;n, productividad e impacto</H4> La producci&oacute;n de un grupo de investigaci&oacute;n se expresa en su cantidad de publicaciones. La productividad se expresa como el n&uacute;mero de publicaciones por equivalentes persona-a&ntilde;o en las investigaciones.      <P>El impacto se ha medido sobre la base de la cantidad de citas por publicaci&oacute;n y est&aacute; relacionada con un patr&oacute;n internacional (un promedio mundial).      <P>Indicadores de producci&oacute;n (PA, Pt, P, Pf)      <P>Para cada grupo de investigaci&oacute;n se ha determinado el n&uacute;mero total de publicaciones y el n&uacute;mero de publicaciones incluidas en el archivo LUC-JCR (Journal Citation Reports), durante el per&iacute;odo 1981-1993. Estos indicadores se identifican con los s&iacute;mbolos PA y Pt. El n&uacute;mero de publicaciones incluidas en el JCR de 1981 a 1993 se denota con la letra P. El SCI utiliza una clasificaci&oacute;n de las publicaciones seg&uacute;n se trate de art&iacute;culos originales, cartas, notas, art&iacute;culos de revisi&oacute;n, res&uacute;menes, conferencias, editoriales, rese&ntilde;as de libros y correcciones. Solamente las cuatro primeras categor&iacute;as mencionadas se consideran para los par&aacute;metros Pt y P.      <P>A menudo sucede que un grupo de investigaci&oacute;n publica art&iacute;culos en cooperaci&oacute;n con cient&iacute;ficos de otros grupos, tanto dentro como fuera de la universidad.<SUP>12</SUP> Vale preguntar si estas publicaciones pueden o no ser completamente atribuidas a cada grupo de investigaci&oacute;n participante. Esto constituye un problema, en especial cuando las publicaciones se relacionan con los datos de entrada, como son los equivalentes persona-a&ntilde;o para una investigaci&oacute;n.      <P>De hecho, los art&iacute;culos que surgen de una colaboraci&oacute;n se basan en parte en los esfuerzos y recursos de otros grupos. Por esta raz&oacute;n, se han utilizado aqu&iacute; dos esquemas de contabilizaci&oacute;n: el usual y directo (una publicaci&oacute;n es una unidad) y el fraccionado (tomando en consideraci&oacute;n la colaboraci&oacute;n). Si, de acuerdo con las indicaciones sobre publicaciones encontradas en los archivos del SCI, un art&iacute;culo es publicado por miembros de dos grupos, cada grupo recibe la mitad del cr&eacute;dito. Si son tres grupos, entonces cada uno recibe la tercera parte del cr&eacute;dito y as&iacute; sucesivamente. A las publicaciones calculadas por el m&eacute;todo fraccionario e incluidas en el archivo LUC-JCR, se les asigna el s&iacute;mbolo Pf. Este indicador s&oacute;lo se ha utilizado para medir la productividad de un grupo de investigaci&oacute;n o de una facultad.      <P>Obs&eacute;rvese que los indicadores P, Pt y Pf s&oacute;lo se relacionan con art&iacute;culos del LUC-JCR, es decir, con art&iacute;culos originales, cartas, notas y art&iacute;culos de revisi&oacute;n publicados en un n&uacute;mero de la JCR y que tienen la direcci&oacute;n de LUC.      <P>Indicadores de productividad (PA/PYE-Res por a&ntilde;o; Pf/PYE-Res por a&ntilde;o)      <P>La productividad se mide utilizando las relaciones PA/PYE-Res y Pf/PYE-Res (n&uacute;mero total de publicaciones y n&uacute;mero fraccionado en JCR por equivalente persona-a&ntilde;o en actividades de investigaci&oacute;n) en el lapso de un a&ntilde;o. Como el objetivo de este informe es determinar la posici&oacute;n internacional de LUC, ser&iacute;a conveniente comparar la productividad de los grupos de investigaci&oacute;n y de las facultades con un patr&oacute;n internacional. Esto permitir&iacute;a determinar si la productividad es alta o baja desde un punto de vista global (internacional). Sin embargo, no es posible en estos momentos obtener datos fiables para hacer tal comparaci&oacute;n.      ]]></body>
<body><![CDATA[<P><I>La comparaci&oacute;n de la productividad entre diferentes grupos de investigaci&oacute;n no es por lo general significativa</I>. Adem&aacute;s del hecho de que esto s&oacute;lo determinar&iacute;a la posici&oacute;n relativa local de un grupo, existe la complicaci&oacute;n de que los h&aacute;bitos de publicaci&oacute;n var&iacute;an marcadamente entre los distintos campos y departamentos cient&iacute;ficos. Por ejemplo, tiene poca importancia comparar la productividad de un grupo experimental con la de un grupo dedicado a la ciencia aplicada. La principal funci&oacute;n de este indicador es encontrar los grupos de investigaci&oacute;n con una productividad muy baja, es decir, grupos que publican muy poco con respecto a su capacidad investigadora.      <P><I>Indicadores de impacto (Ct, Ctex, C, Cex, CpP, CexpP, CpP/FCSm, CpP/JCSm, JCSm/FCSm, PSt, PS)</I>      <P>Estos indicadores s&oacute;lo tienen que ver con art&iacute;culos del LUC-JCR. Para cada cient&iacute;fico se ha determinado el n&uacute;mero total de citas durante el per&iacute;odo 1981-1993 (y esto es con respecto a los art&iacute;culos publicados en este per&iacute;odo). Esto se ha identificado con el s&iacute;mbolo Ct, en el que tambi&eacute;n se incluyen las autocitas. Para dar una idea de la cantidad de autocitas, se determin&oacute; tambi&eacute;n el n&uacute;mero total de citas sin incluir autocitas, y el porcentaje de autocitas (s&iacute;mbolos Ctex, PSt). Estos indicadores se determinaron para un per&iacute;odo de cuatro a&ntilde;os tras la publicaci&oacute;n (s&iacute;mbolos C, Cex, PS). Adem&aacute;s se obtuvo <I>la cantidad promedio de citas por art&iacute;culo con autocitas y sin estas</I> <I>(s&iacute;mbolos CpP y CexpP).</I>      <P>Por regla general, un grupo publica art&iacute;culos en determinadas revistas, las cuales constituyen la colecci&oacute;n de revistas de ese grupo. Es posible obtener el factor de impacto para cada revista de esta colecci&oacute;n, es decir, el n&uacute;mero de veces promedio en que se cita el art&iacute;culo publicado en esa revista. Obs&eacute;rvese que para el c&aacute;lculo del factor de impacto de una revista, se toman en consideraci&oacute;n todos los art&iacute;culos y no s&oacute;lo aqu&eacute;llos publicados por el grupo de investigaci&oacute;n que se eval&uacute;a. En este informe, el factor de impacto se denomina JCS (Journal Citation Score: puntuaci&oacute;n de las citas de la revista).      <P>El uso de factores de impacto de revistas posibilita formular una media ponderada del factor de impacto para la colecci&oacute;n de revistas donde publica el grupo (s&iacute;mbolo JCSm). Ejemplificaremos esta construcci&oacute;n de la siguiente manera: supongamos que un grupo public&oacute; en un a&ntilde;o determinado 3 art&iacute;culos en la revista A y 2 en la revista B; luego supongamos que los art&iacute;culos de la revista A tuvieron como promedio 6 citas (JCS = 6) y los de la B, 2 (JCS = 2). La media ponderada del factor de impacto para la colecci&oacute;n de revistas de este grupo en ese a&ntilde;o ser&iacute;a (JCSm): (3 x 6 + 2 x 2:5=4:4.      <P>Los factores de impacto pueden calcularse de diversas formas. La utilizada en este informe difiere de la oficial, es decir de la del ISI. La noci&oacute;n del factor de impacto siempre se refiere a una cantidad promedio de citas de art&iacute;culos publicados en cierta revista. El factor de impacto del ISI se refiere al n&uacute;mero promedio de citas obtenido durante el segundo o tercer a&ntilde;o posterior a la publicaci&oacute;n. Para presentarlo de una forma m&aacute;s precisa: el factor de impacto del ISI para una revista X en 1998 se obtiene al dividir la suma de las citas en el a&ntilde;o 1998 de los art&iacute;culos publicados en esta revista en los a&ntilde;os 1996 y 1997 entre la suma de la cantidad de art&iacute;culos publicados en esa revista X durante esos mismos a&ntilde;os.      <P>Nuestro trabajo se ha limitado a un per&iacute;odo predeterminado, llamado <I>un per&iacute;odo de 4 a&ntilde;os</I>,<SUP>13</SUP> que consiste en el a&ntilde;o de publicaci&oacute;n (a&ntilde;o uno) y los 3 a&ntilde;os siguientes. Una consecuencia de esta elecci&oacute;n del per&iacute;odo de 4 a&ntilde;os es que tan s&oacute;lo las publicaciones del per&iacute;odo 1981-1989 pueden analizarse en su totalidad.      <P>Los indicadores mencionados, son indicadores b&aacute;sicos que responden a preguntas como: &iquest;cu&aacute;l es la frecuencia con que se citan los art&iacute;culos dentro del conjunto de revistas del SCI? y &iquest;cu&aacute;l es la media ponderada del factor de impacto de las revistas en las que se publican las investigaciones? Estos indicadores no responden a la pregunta de si un grupo de investigaci&oacute;n es o no m&aacute;s citado que otros grupos similares y si la puntuaci&oacute;n de las citas en la revista del grupo es alta o baja vista desde una perspectiva internacional. Una comparaci&oacute;n directa entre los grupos o los departamentos de una universidad, basada en n&uacute;meros absolutos de citas (C), de citas por publicaci&oacute;n (CpP) o el factor de impacto de la colecci&oacute;n de revistas (JCSm) no es por lo general significativa, dada la diversidad de h&aacute;bitos a la hora de citar en diferentes campos de la ciencia. En campos como la inmunolog&iacute;a, las listas de referencias son mucho m&aacute;s largas que en matem&aacute;tica o en computaci&oacute;n. Por lo tanto, hemos optado por un m&eacute;todo donde al menos para el an&aacute;lisis del impacto se ha establecido un nivel de referencia internacional. Las puntuaciones de los grupos de investigaci&oacute;n de LUC se comparan entonces con este nivel de referencia internacional. Hemos calculado, por subcampo, la cantidad promedio de citas que recibe un art&iacute;culo de ese campo, lo cual se denomina <I>promedio global por campo</I> y se denota como FCS (field citation score). Para la clasificaci&oacute;n de revistas por subcampos, se parte de la clasificaci&oacute;n de revistas en categor&iacute;as seg&uacute;n el ISI. Luego se comparan las puntuaciones de las citas de LUC con las existentes en el mundo y entonces puede establecerse si los art&iacute;culos de un grupo de investigaci&oacute;n son m&aacute;s o menos citados que el promedio global imperante en el campo donde opera el grupo de investigaci&oacute;n. Por lo general, un grupo trabaja en m&aacute;s de un campo y, por consiguiente, la media ponderada que se utiliza (s&iacute;mbolo FCSm) es similar al c&aacute;lculo de la media ponderada del factor de impacto (JCSm).<SUP>14</SUP>      <P>Se elaboraron 3 importantes indicadores sobre la base de las variables CpP, JCSm y FCSm:      <P>a) La relaci&oacute;n entre el impacto obtenido y el impacto de la colecci&oacute;n de revistas: Cpp/JCSm.      ]]></body>
<body><![CDATA[<P>Aqu&iacute; se compara la puntuaci&oacute;n del promedio de citas de un grupo de investigaci&oacute;n (CpP) con la media ponderada del factor de impacto de las revistas en la cual publica el grupo (JCSm). Este indicador permite determinar si la obra de un grupo -dentro de un par&aacute;metro de citas en 4 a&ntilde;os-<SUP>1</SUP> es m&aacute;s citada que el promedio. El poder evaluativo de este indicador es limitado por el hecho de que no se toma en cuenta el nivel de citaci&oacute;n de la colecci&oacute;n de revistas.      <P>Un grupo que publica en revistas menos importantes- con un bajo factor de impacto- y que es citado con la misma frecuencia promedio que se citan los art&iacute;culos de su colecci&oacute;n de revistas, es clasificado por este indicador en el mismo nivel que un grupo que publica en las principales revistas con un alto factor de impacto y obtiene una puntuaci&oacute;n de citas promedio igual a la de su colecci&oacute;n de revistas. <DIR>b) La relaci&oacute;n entre el impacto obtenido y el impacto global promedio de los campos en los cuales trabaja el grupo: CpP/FCSm.</DIR> Este indicador compara la puntuaci&oacute;n de citas promedio de la obra del grupo con el promedio internacional de citas de los campos en los que se desenvuelve el grupo. Una relaci&oacute;n mayor que 1 significa que el grupo es citado con m&aacute;s frecuencia que el promedio global de sus subcampos. Este indicador es el m&aacute;s apropiado para medir la posici&oacute;n internacional de un grupo de investigaci&oacute;n. <DIR>c) La relaci&oacute;n entre factor de impacto promedio de la colecci&oacute;n de revistas con el impacto global promedio de los campos en que act&uacute;a el grupo: JCSm/FCSm.</DIR> Este indicador compara la media ponderada del factor de impacto de la colecci&oacute;n de revistas con el promedio global de citas del campo en que participa el grupo. Si el JCSm/FCSm es mayor que 1, esto significa que el grupo publica en revistas que tienen un factor de impacto alto con respecto al promedio global (en el campo).      <P>Por su puesto que estos 3 indicadores no son independientes. El conocimiento de dos de ellos determina el tercero. <H4> An&aacute;lisis de tendencias</H4> Una limitaci&oacute;n de los indicadores mencionados es que ofrecen un valor promedio por encima per&iacute;odo estudiado. As&iacute;, este cuadro se ha complementado con una serie de an&aacute;lisis de tendencias.      <P>Rousseau<SUP>15</SUP> aborda otro m&eacute;todo para los an&aacute;lisis de tendencias. Los indicadores se estudian aqu&iacute; sobre una base anual para hallar la evoluci&oacute;n del impacto del grupo. Los gr&aacute;ficos que se muestran a continuaci&oacute;n, reflejan la evoluci&oacute;n anual y los promedios de 3 a&ntilde;os. Considerando que la evoluci&oacute;n de un a&ntilde;o al otro ocurre a menudo de forma irregular, se recomienda concentrar la atenci&oacute;n en la evoluci&oacute;n de los promedios de 3 a&ntilde;os.      <P>La figura muestra el total de trabajos publicados anualmente por un grupo de investigaci&oacute;n o facultad. Todas las publicaciones, incluidas las categorizadas en (S), C y P, se toman en cuenta. <OL> <OL>     <LI> N&uacute;mero de publicaciones por a&ntilde;o</LI>      <LI> N&uacute;mero de art&iacute;culos JCR por a&ntilde;o</LI>     </OL>     </OL> S&oacute;lo se muestran los art&iacute;culos publicados en las revistas incluidas en JCR.     <BR>&nbsp;     ]]></body>
<body><![CDATA[<BLOCKQUOTE>3. Productividad.</BLOCKQUOTE>       <P>Esta figura representa la relaci&oacute;n entre el n&uacute;mero de publicaciones y el factor persona-a&ntilde;o equivalente en la investigaci&oacute;n (PYE-Res).     <BR>&nbsp;     <BLOCKQUOTE>4. Productividad de JCR</BLOCKQUOTE>       <P>Esta figura muestra lo mismo que el anterior excepto que ahora s&oacute;lo se analizan las publicaciones de JCR.     <BR>&nbsp;     <BLOCKQUOTE>5. N&uacute;mero total de citas por a&ntilde;o</BLOCKQUOTE>       <P>Aqu&iacute; se muestra el n&uacute;mero total de citas (en las revistas de JCR) que el grupo o facultad ha obtenido por a&ntilde;o. S&oacute;lo se analizan las citas de publicaciones de 1981 a 1993.      <P>A medida que se incremente el n&uacute;mero acumulativo de art&iacute;culos citables durante el per&iacute;odo, es normal que tambi&eacute;n aumente este gr&aacute;fico. Si ello no ocurre as&iacute;, constituye un punto negativo del grupo. <DIR>6. N&uacute;mero de citas por publicaci&oacute;n-publicaciones que tienen 4 a&ntilde;os como m&aacute;ximo</DIR> Esta figura muestra los mismos datos que el anterior, con la diferencia de que las publicaciones tienen a lo sumo 4 a&ntilde;os. En consecuencia, los primeros 3 a&ntilde;os est&aacute;n incompletos. <DIR>7. N&uacute;mero de citas de art&iacute;culos JCR con 4 a&ntilde;os como m&aacute;ximo</DIR> Otra figura similar a las 2 anteriores, pero que s&oacute;lo considera las publicaciones JCR. De ah&iacute; que se muestran las publicaciones por art&iacute;culo y los 3 primeros a&ntilde;os est&aacute;n incompletos. <DIR>8. Impacto de citas con 4 a&ntilde;os</DIR> Esta figura, por art&iacute;culo del JCR, el n&uacute;mero total de citas de art&iacute;culos publicados en el primer a&ntilde;o de un per&iacute;odo de 4 (el a&ntilde;o reflejado en el eje horizontal). Esto significa que los &uacute;ltimos 3 a&ntilde;os (1991-1993) est&aacute;n incompletos. Por lo tanto, es l&oacute;gico que estas figuras disminuyan al final. Antes de este per&iacute;odo (1991-1993) se utilizaba un par&aacute;metro de 4 a&ntilde;os. <DIR>9. Impacto en relaci&oacute;n con la colecci&oacute;n de revistas.</DIR> Los valores de los puntos de esta figura son los cocientes de los n&uacute;meros de la figura anterior, divididos por el n&uacute;mero promedio de citas obtenido por un art&iacute;culo publicado en la misma revista durante 4 a&ntilde;os. Si el grupo obtiene la misma puntuaci&oacute;n, que su colecci&oacute;n de revistas, este cociente es 1. <DIR>10. Impacto en relaci&oacute;n con el promedio mundial de citas</DIR> Los valores de los puntos encontrados en esta figura son los cocientes de los n&uacute;meros de la figura 8 y del n&uacute;mero promedio de citas que un art&iacute;culo en el mismo campo obtiene durante el mismo per&iacute;odo de 4 a&ntilde;os (en la misma categor&iacute;a de JCR)     <BR>&nbsp;     ]]></body>
<body><![CDATA[<BR>&nbsp;     <BR>&nbsp;     <CENTER><A HREF="/img/revistas/aci/v9ns/f0108100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0108100.gif" ALT="Fig. 1. Número de publicaciones por año" BORDER=1 HEIGHT=182 WIDTH=400></A></CENTER>      
<CENTER>Fig. 1. N&uacute;mero de publicaciones por a&ntilde;o</CENTER>      <CENTER></CENTER>      <CENTER><A HREF="/img/revistas/aci/v9ns/f0208100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0208100.gif" ALT="Fig. 2. Número de artículos JCR por año" BORDER=1 HEIGHT=174 WIDTH=388></A></CENTER>      
<CENTER>Fig. 2. N&uacute;mero de art&iacute;culos JCR por a&ntilde;o</CENTER>      <CENTER><A HREF="/img/revistas/aci/v9ns/f0308100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0308100.gif" ALT="Fig. 3. Número total de citas por año" BORDER=1 HEIGHT=200 WIDTH=380></A></CENTER>      
<CENTER>Fig. 3. N&uacute;mero total de citas por a&ntilde;o</CENTER>      <CENTER><A HREF="/img/revistas/aci/v9ns/f0408100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0408100.gif" ALT="Fig. 4. Número de citas por publicación" BORDER=1 HEIGHT=200 WIDTH=384></A></CENTER>      
]]></body>
<body><![CDATA[<CENTER>Fig. 4. N&uacute;mero de citas por publicaci&oacute;n</CENTER>      <CENTER><A HREF="/img/revistas/aci/v9ns/f0508100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0508100.gif" ALT="Fig. 5. Impacto" BORDER=1 HEIGHT=154 WIDTH=327></A></CENTER>      
<CENTER>Fig. 5. Impacto</CENTER>      <CENTER><A HREF="/img/revistas/aci/v9ns/f0608100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0608100.gif" ALT="Fig. 6. Impacto" BORDER=1 HEIGHT=160 WIDTH=334></A></CENTER>      
<CENTER>Fig. 6. Impacto</CENTER>  <H4> Cobertura del SCI</H4> Los indicadores de impacto se basan enteramente en art&iacute;culos con la direcci&oacute;n de LUC, publicados en revistas cubiertas por el SCI. La hip&oacute;tesis central es que el SCI es un instrumento adecuado para seleccionar art&iacute;culos publicados en las principales revistas internacionales.<SUP>16</SUP> En esta secci&oacute;n se analizar&aacute; con m&aacute;s profundidad la validez de esta afirmaci&oacute;n. A tales efectos, se elaboraron 2 indicadores adicionales:     <CENTER><A HREF="/img/revistas/aci/v9ns/f0708100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0708100.gif" ALT="Fig. 7. Técnica del DEA" BORDER=1 HEIGHT=180 WIDTH=270></A></CENTER>      
<CENTER>Fig. 7. T&eacute;cnica del DEA</CENTER>       <P>a) Pt/Pjtot      <P>Este indicador brinda el porcentaje de art&iacute;culos en el archivo LUC-JCR(Pt) con respecto al total de art&iacute;culos de revistas (Pjtot).      <P>Si este porcentaje se aproxima al 100 %, ello significa que el grupo de investigaci&oacute;n publica sus art&iacute;culos principalmente en las revistas cubiertas por JCR. En ese caso, el SCI tiene una buena cobertura de la producci&oacute;n de este grupo.      ]]></body>
<body><![CDATA[<P>b) Pjtot/AA      <P>Este indicador brinda el porcentaje de art&iacute;culos de revistas con respecto al n&uacute;mero total de publicaciones (PA). Si este porcentaje es cercano al 100 %, ello significa que el grupo publica mayormente art&iacute;culos y que es menor la importancia de otros tipos de publicaciones.      <P>&iquest;C&oacute;mo deben interpretarse estos indicadores? Hablando en t&eacute;rminos comparativos, si un grupo de investigaci&oacute;n publica una gran cantidad de art&iacute;culos en revistas no cubiertas por JCR, ello puede interpretarse de dos formas. Si se asume que la cobertura del SCI es adecuada y realmente abarca todas las principales revistas, entonces se ha de llegar a la conclusi&oacute;n de que obviamente este grupo no publica en revistas importantes. En ese caso, la relaci&oacute;n Pt/Pjtot es un indicador de la posici&oacute;n internacional del grupo como lo muestra su comportamiento en cuanto a la publicaci&oacute;n de trabajos, es decir, de la elecci&oacute;n de revistas para publicar art&iacute;culos (o puede ser que los art&iacute;culos del grupos s&oacute;lo se acepten en revistas de menos importancia). Por eso una relaci&oacute;n peque&ntilde;a significa una posici&oacute;n internacional d&eacute;bil.      <P>Por otra parte, se puede asumir que la cobertura del SCI es inadecuada al no considerar muchas revistas importantes. Si se asume asimismo que el grupo publica en revistas importantes, entonces la relaci&oacute;n Pt/Pjtot se convierte en un indicador de cobertura del SCI con el grupo de investigaci&oacute;n (departamento, facultad) como norma.      <P>Puede que surja un problema con la adecuaci&oacute;n del SCI en aquellos campos donde la publicaci&oacute;n de alto nivel no est&aacute; limitada a un grupo relativamente peque&ntilde;o de las mejores revistas internacionales en idioma ingl&eacute;s, pero en &eacute;l existe un amplio espectro de revistas de orientaci&oacute;n local (es decir, dirigidas a una naci&oacute;n o a un grupo idiom&aacute;tico) que publican art&iacute;culos de gran calidad. En general, el problema no est&aacute; en las ciencias. Sin embargo, este aspecto ha de considerarse en la interpretaci&oacute;n de los resultados.      <P>Se pueden hacer observaciones an&aacute;logas con respecto a la relaci&oacute;n Pjtot/PA. Si un grupo tiene una relaci&oacute;n Pjtot/PA baja, ello puede significar que el grupo no quiere o no es capaz de publicar en revistas. Sin embargo, tambi&eacute;n puede significar que en ese campo de investigaci&oacute;n, las revistas tienen un menor papel en la divulgaci&oacute;n de los conocimientos cient&iacute;ficos. <H4> Discusi&oacute;n de estos resultados</H4> La Facultad de Ciencia y Medicina public&oacute; 1 038 trabajos durante el per&iacute;odo 1981-1993 que significa un promedio de 80 trabajos al a&ntilde;o; el 82 % de estas publicaciones son art&iacute;culos de revistas.      <P>Por consiguiente, el 18 % se refiere a otros tipos de publicaciones, lo que demuestra que en la Facultad de Ciencia y Medicina son tambi&eacute;n importantes los anales de congresos y las contribuciones en libros editados. De estos art&iacute;culos de revistas, el 72 % pertenece a las categor&iacute;as de la JCR: art&iacute;culos originales, cartas, art&iacute;culos de las categor&iacute;as de revisi&oacute;n y notas. En general, no hay problema de cobertura para el SCI porque una gran parte de las dem&aacute;s publicaciones son res&uacute;menes de revistas de JCR.      <P>Los 586 art&iacute;culos de la Facultad en JCR se citaron 2 915 veces. El porcentaje de autocitas fue igual al 38 %, que es bastante alto. En relaci&oacute;n con el impacto a corto plazo, se observa que estos art&iacute;culos (publicados en el per&iacute;odo 1981-1989) se citaron como promedio 3,38 veces durante los primeros 4 a&ntilde;os tras la publicaci&oacute;n (39 % son autocitas).      <P>El factor de impacto promedio de la colecci&oacute;n de revistas de la facultad fue 4,77 y la puntuaci&oacute;n promedio mundial de citas fue 4,83, lo que demostr&oacute; que la Facultad en su conjunto publica dentro del nivel promedio. El impacto promedio de la Facultad se sit&uacute;a justo por debajo del promedio mundial (3,88/4,83=0,8) donde se toman en cuenta los m&aacute;rgenes de errores. El impacto de la colecci&oacute;n de revistas fue de 0,81.      <P>Los an&aacute;lisis de las tendencias demuestran una trayectoria irregular, aunque terminan de forma ascendente. Se puede decir con toda seguridad que en 1989 la Facultad de Ciencias y Medicina alcanz&oacute; el promedio mundial. <H4> Discusiones con los cient&iacute;ficos</H4> Consultamos a los investigadores durante dos rondas de validaci&oacute;n, donde se les dio la posibilidad de corregir los datos num&eacute;ricos.      ]]></body>
<body><![CDATA[<P>Adicionalmente se compararon los resultados de los an&aacute;lisis cienciom&eacute;tricos con la visi&oacute;n que los propios cient&iacute;ficos ten&iacute;an de su Facultad y de su grupo de investigaci&oacute;n. Durante las entrevistas personales, se recopil&oacute; la informaci&oacute;n que tuviera alguna importancia concreta para dar una interpretaci&oacute;n correcta a los resultados cienciom&eacute;tricos. Estas interpretaciones, puestas a la consideraci&oacute;n del Consejo de Investigaciones para su procesamiento, hicieron de este informe un instrumento v&aacute;lido a la pol&iacute;tica de investigaciones en la Universidad. Los investigadores formularon una serie de observaciones importantes, a veces cr&iacute;ticas, pero nunca totalmente negativas.      <P>Los debates que sostuve con varios cient&iacute;ficos fueron, a mi modo de ver, muy instructivos para ambas partes. Como se ha mencionado anteriormente, son s&oacute;lo los cient&iacute;ficos quienes pueden valorar correctamente los resultados obtenidos. Un aspecto com&uacute;n de todas las discusiones fue que los cient&iacute;ficos se sintieron un tanto disgustados con los resultados promedio (promedios a lo largo de todo el per&iacute;odo), pero satisfechos con los an&aacute;lisis de las tendencias que muestran el avance por ellos logrando. A menudo se&ntilde;alaron que los programas de investigaciones m&aacute;s extensos requer&iacute;an de un tiempo de incubaci&oacute;n para poder ponerse en marcha. Asimismo enfatizaron que, adem&aacute;s de las citas "objetivas" los contactos personales y las solicitudes de orientaci&oacute;n eran tambi&eacute;n importantes para sentirse apreciados por sus iguales.      <P>Como respuestas a preguntas m&aacute;s espec&iacute;ficas, se registraron los comentarios siguientes: <UL>     <LI> Los m&eacute;todos cienciom&eacute;tricos son &uacute;tiles siempre que se tomen en cuenta las diferencias de recursos materiales y humanos existentes y entre los grupos de investigaci&oacute;n.</LI>      <LI> La visibilidad es uno de los aspectos importantes de la investigaci&oacute;n cient&iacute;fica. Un estudio de las citas brinda una interesante retroalimentaci&oacute;n con respecto a esto.</LI>      <LI> Un estudio cienciom&eacute;trico fiable informa a los miembros de la Universidad de manera que puedan tratar de mejorar su visibilidad.<SUP>17</SUP></LI>      <LI> Muchas personas subrayaron la naturaleza objetiva de los datos sobre citas, pero tambi&eacute;n apuntaron su unilateralidad, ya que ser miembro de una universidad exige mucho m&aacute;s que la investigaci&oacute;n cient&iacute;fica tal como se publica en las revistas cubiertas por JCR.</LI>      <LI> Un grupo de investigaci&oacute;n afirma que una publicaci&oacute;n debe ser el resultado natural de la investigaci&oacute;n y no a la inversa. Algo parecido en este sentido se&ntilde;ala otro grupo con su declaraci&oacute;n de que publicar m&aacute;s no debe ser motivo de una pol&iacute;tica publicitaria, sino inspirarse en la necesidad de divulgar los resultados de la actividad cient&iacute;fica sostenida.</LI>     </UL>  <UL>     <LI> Hay quienes consideran el estudio cienciom&eacute;trico como un incentivo para que el Consejo de Investigaciones eval&uacute;e el trabajo de grupos dedicados a esta actividad.</LI>      ]]></body>
<body><![CDATA[<LI> Se detectaron problemas de coberturas en las &aacute;reas de la computaci&oacute;n y de la estad&iacute;stica. El problema en esta &uacute;ltima radica en que algunas revistas no est&aacute;n cubierta por el ISI; en lo que respecta a la computaci&oacute;n, el problema se relaciona m&aacute;s con el hecho de que en este campo los cient&iacute;ficos tienden a publicar con mayor frecuencia en las actas de las conferencias, las que presentan por lo general criterios de selecci&oacute;n muy restringidos.</LI>      <LI> Algunos cient&iacute;ficos quisieran saber c&oacute;mo se evaluar&iacute;an en el futuro inmediato las revistas electr&oacute;nicas y las citas en ellas contenidas.<SUP>18</SUP></LI>      <LI> Un grupo de investigaci&oacute;n no visualiza el prop&oacute;sito de un estudio cienciom&eacute;trico, en particular en una peque&ntilde;a universidad como LUC, donde estos grupos son tambi&eacute;n peque&ntilde;os. Para este grupo, es imposible el uso a ciegas de los resultados de este an&aacute;lisis con fines administrativos.</LI>      <LI> Al parecer es m&aacute;s dif&iacute;cil obtener buenas puntuaciones cuando se publica en revistas con un alto nivel de impacto.</LI>     </UL> Comentario personal: Las revistas de un alto impacto pertenecen a menudo a campos de las ciencias conocidos como "gran ciencia". Particularmente dentro de estos campos, la peque&ntilde;ez de LUC representa hoy d&iacute;a un aspecto adverso, lo que explica al menos en parte los resultados m&aacute;s bien desalentadores de algunos grupos de investigaci&oacute;n. <H4> Conclusi&oacute;n de la primera parte</H4> Estamos convencidos que para aquellos que utilizan de forma responsable los estudios de evaluaci&oacute;n de la ciencia a los efectos de controlar la pol&iacute;tica investigativa, nuestro informe les resultar&aacute; una herramienta &uacute;til. En cuanto a los cient&iacute;ficos de LUC, el informe les servir&aacute; como una forma de retroalimentaci&oacute;n en relaci&oacute;n con una de sus actividades principales. <H4> Segunda parte: Data envelopment analysis como herramienta para elaborar indicadores cienciom&eacute;tricos</H4> La finalidad de esta parte es mostrar la factibilidad del data envelopment analysis (DEA) en las aplicaciones cienciom&eacute;tricas e introducir al lector en esta t&eacute;cnica. Como ejemplo se tomar&aacute; en consideraci&oacute;n la comparaci&oacute;n de las puntuaciones del desempe&ntilde;o de los departamentos universitarios. <H4> Exposici&oacute;n del problema y su soluci&oacute;n: DEA<SUP><FONT SIZE=-2>19</FONT></SUP></H4> Los principales problemas en la evaluaci&oacute;n de la eficiencia de instituciones p&uacute;blicas como las universidades, radican en la falta de una norma absoluta y de un buen estimado de la funci&oacute;n productiva en el sentido econ&oacute;mico de la palabra. Una funci&oacute;n de producci&oacute;n es la relaci&oacute;n funcional entre insumos y productos, que define cu&aacute;les insumos y cu&aacute;ntos insumos se necesitan para generar un determinado producto. Otro problema es la necesidad de considerar los insumos m&uacute;ltiples y los productos m&uacute;ltiples. En este contexto, el t&eacute;rmino unidades de toma de decisiones (UTD) se utilizar&aacute; para instituciones, gobiernos, etc. Una primera y bastante informal definici&oacute;n de eficiencia podr&iacute;a ser el uso que se hace de los recursos para lograr los objetivos, teniendo en cuenta los factores sociales y econ&oacute;micos.      <P>La primera incursi&oacute;n en este terreno apareci&oacute; con la investigaci&oacute;n realizada por Charnes, Cooper y Rhodes en 1978,<SUP>20</SUP> primer trabajo que utiliz&oacute; la t&eacute;cnica de DEA, cuya definici&oacute;n formal de la eficiencia es:      <P>"Una unidad alcanza el 100 % de eficiencia s&oacute;lo cuando:      <P>a) Ninguno de sus productos puede aumentar sin que aumente uno o m&aacute;s de sus insumos o sin que disminuyan algunos de los otros productos.      <P>b) Ninguno de sus insumos puede disminuir sin que disminuyan algunos de sus productos o aumenten algunos de los dem&aacute;s insumos".      <P>Al no existir forma alguna de establecer una norma absoluta de eficiencia, Charnes y Cooper introdujeron la siguiente definici&oacute;n de eficiencia relativa: "Cualquier unidad puede alcanzar el 100 % de eficiencia relativa, s&oacute;lo cuando las comparaciones con otras unidades pertinentes no ofrezca ning&uacute;n indicio de ineficiencia en el uso de un insumo o producto."      ]]></body>
<body><![CDATA[<P>El uso del DEA tiene 2 ventajas: <OL> <OL>     <LI> No es un m&eacute;todo param&eacute;trico, por lo que no es necesario conocer la relaci&oacute;n funcional entre insumos y productos.</LI>      <LI> Conduce a las puntuaciones del desempe&ntilde;o relativo. No es necesario definir una norma de desempe&ntilde;o absoluto externa. Los miembros de los grupos se comparan s&oacute;lo con otros miembros del mismo grupo (las unidades de toma de decisiones).</LI>     </OL>     </OL> El DEA se ha utilizado en estudios de administraci&oacute;n de hospitales, en la organizaci&oacute;n del Comando de Reclutamiento de la Marina de los Estados Unidos, en los distritos escolares, en an&aacute;lisis de la rentabilidad base de diferentes sectores de una misma empresa en pa&iacute;ses, universidades y departamentos universitarios.<SUP>21-23</SUP>      <P>Para mayor claridad, se explica en la figura 1 la t&eacute;cnica del DEA. En esta figura se representa gr&aacute;ficamente la eficiencia relativa de varias unidades UTD imaginarias, las cuales utilizan un insumo para generar 2 productos.      <P>Los ejes horizontal y vertical representan la relaci&oacute;n de cada producto (OUT<SUB>1</SUB> y OUT<SUB>2</SUB>) con respecto a la cantidad de insumos empleados (IN). En el DEA, el desempe&ntilde;o de cada UTD se compara con los de otras unidades consideradas en ese caso. Las unidades con mejor desempe&ntilde;o utilizan sus insumos de una forma m&aacute;s &oacute;ptima que las dem&aacute;s. Otra vez la relatividad de este enfoque tiene que subrayarse. Las unidades m&aacute;s &oacute;ptimas forman una frontera llamada la "frontera de la eficiencia". Las unidades con menor desempe&ntilde;o precisan de m&aacute;s insumos para generar la misma cantidad de productos y por lo tanto est&aacute;n situadas a cierta distancia de la frontera. La ineficiencia de las mismas se representa con la distancia radial. Es obvio que todas las unidades situadas en la frontera de la eficiencia tendr&aacute;n un &iacute;ndice de desempe&ntilde;o relativo igual a 1 (son totalmente eficientes).      <P>La frontera de la eficiencia incluye a todas las unidades de toma de decisiones, como se puede ver en la figura 7.      <P>Es por eso que la t&eacute;cnica se denomina DEA. A fin de incrementar el desempe&ntilde;o de una UTD no &oacute;ptima como la UTD 2, una nueva estrategia tiene que estar dirigida hacia la evoluci&oacute;n en pos de la frontera de la ificiencia. La t&eacute;cnica DEA sugiere una evoluci&oacute;n radial a partir de la fuente hacia el punto de meta en la frontera que representa lo que esa unidad pudiera lograr. De esa forma, se logra llegar a la unidad de desempe&ntilde;o &oacute;ptimo UTD 2: Se observa que la UTD 2 est&aacute; situada entre las 2 unidades &oacute;ptimas UTD 8 y UTD 5, que forman un grupo de referencia para UTD 2. El grupo de referencia permite calcular las reducciones de insumos y ocasionalmente, las reducciones de productos necesarios para obtener una unidad con desempe&ntilde;o eficiente, adem&aacute;s de mostrar d&oacute;nde y c&oacute;mo actuar. Hay otras v&iacute;as no radiales para convertir en eficientes a ciertas unidades. Por ejemplo, una evoluci&oacute;n puramente vertical lleva a una unidad eficiente UTD 2".      <P>Ahora, para resolver un problema espec&iacute;fico, hay que calcular el desempe&ntilde;o de cada UTD K (k=1...n) comparado con las unidades de mejor desempe&ntilde;o del grupo. Por lo tanto, es necesario maximizar la relaci&oacute;n de productos ponderados (O<SUB>rk,</SUB> r=1..s; k=1..n) con respecto a los insumos ponderados (I<SUB>ik</SUB>; i=1..m, k=1..n), sujetos a la condici&oacute;n de que las relaciones similares para cada UTD sean inferiores o iguales a la unidad, es decir, a 1. El siguiente modelo matem&aacute;tico brinda una mejor precisi&oacute;n.     ]]></body>
<body><![CDATA[<BR>&nbsp;     <CENTER><A HREF="/img/revistas/aci/v9ns/f1108100.gif"><IMG SRC="/img/revistas/aci/v9ns/f1108100.gif" HEIGHT=247 WIDTH=262></A></CENTER>       
<P>Las variables de decisiones de este modelo son coeficientes de ponderaci&oacute;n (Vrk e Uik): un conjunto para cada unidad. Est&aacute;n constituidas de esa forma para que arrojen el resultado m&aacute;s beneficioso para la unidad en cuesti&oacute;n. Esto significa que los valores altos se atribuyen a los mejores resultados, y que los valores bajos se atribuyen a los insumos utilizados con m&aacute;s frecuencia. El resultado m&aacute;s elevado posible, es por supuesto el 1. Cuando ello ocurre, la unidad se denomina entonces eficiente. Las ecuaciones (3) y (4) definen por razones t&eacute;cnicas un l&iacute;mite por debajo del cual no pueden aparecer ponderaciones. Hemos utilizado e=0.000001.      <P>Este modelo DEA no es lineal ni convexo. Como no existe una forma f&aacute;cil de resolver este tipo de problema, es procedente transformar el modelo en un modelo de programaci&oacute;n lineal; ello se hace otorgando al denominador un valor igual a 1. El nuevo modelo permite una f&aacute;cil soluci&oacute;n con los paquetes de software existentes como LINGO. As&iacute; se obtiene el siguiente modelo lineal y convexo.     <CENTER><A HREF="/img/revistas/aci/v9ns/f0808100.gif"><IMG SRC="/img/revistas/aci/v9ns/f0808100.gif" HEIGHT=282 WIDTH=297 BORDER=0></a></CENTER> Puede demostrarse que el DEA nunca sobrestimar&aacute; el potencial de mejoramiento con respecto al identificado por cualquier otro m&eacute;todo de ponderaci&oacute;n. Obs&eacute;rvese que las comparaciones se hacen siempre con respecto al desempe&ntilde;o logrado y nunca con respecto a un objetivo hipot&eacute;tico que puede no alcanzarse. <H4> Departamentos universitarios<SUP><FONT SIZE=-2>23</FONT></SUP></H4>  <UL>     
<LI> Selecci&oacute;n de resultados y recursos.</LI>     </UL> Los resultados responden la pregunta: &iquest;cu&aacute;les son los objetivos de un departamento universitario?      <P>Los recursos dan respuesta a la pregunta: &iquest;qui&eacute;n o qu&eacute; permite a un departamento alcanzar sus objetivos? <H4> RESULTADOS</H4> Los esfuerzos en la educaci&oacute;n, medidos por el n&uacute;mero de estudiantes obtenidos por el departamento. Los estudiantes se clasifican seg&uacute;n su nivel (pre-grado o posgrado) y si necesitan o no equipos de laboratorio (costosos) (una o dos variables).      <P>Investigaci&oacute;n b&aacute;sica y aplicada.      <P>Los recursos obtenidos para hacer esta investigaci&oacute;n<SUP>23</SUP> (una o dos variables).      ]]></body>
<body><![CDATA[<P>Clasificaciones de los departamentos por parte de una comisi&oacute;n externa.<SUP>22</SUP> <H4> RECURSOS</H4> El personal (FTE) se paga con los recursos de la Universidad que brinda el gobierno o con los fondos salariales.      <P>Otros recursos de la Universidad subvencionados por el gobierno (incluye el financiamiento de equipos y de los fondos para la biblioteca).      <P>Resultados de la Universidad Cat&oacute;lica de Leuven: 36 departamentos de los cuales 13 tienen una puntuaci&oacute;n de eficiencia igual a 1.      <P>Son 100 % eficientes: derecho eclesi&aacute;stico, filosof&iacute;a, criminolog&iacute;a, econom&iacute;a aplicada, historia, psicolog&iacute;a y antropolog&iacute;a, fisica, qu&iacute;mica, electr&oacute;nica, arquitectura, ciencias biol&oacute;gicas aplicadas, medicina y kinestesia. S&oacute;lo para que se conozcan, se mencionan los menos eficientes: construcci&oacute;n (46 %), geolog&iacute;a y geograf&iacute;a (42 %), estomatolog&iacute;a (27 %), preparaci&oacute;n f&iacute;sica (gimn&aacute;stica y deportiva: 23 %).      <P>Eficiencia y efectividad      <P>Para obtener un alto grado de eficiencia, una UTD est&aacute; en plena libertad de utilizar sus recursos como lo desee.      <P>Los departamentos pueden emplear todos sus insumos para obtener un solo producto o resultado (ej: ense&ntilde;anza) y aun as&iacute; lograr una puntuaci&oacute;n de 1. Sin embargo, si una unidad tiene varias funciones, no se le puede considerar realmente eficiente si no se desempe&ntilde;a bien en cada una de ellas. Ello conlleva la introducci&oacute;n de la noci&oacute;n de efectividad. Dentro del marco del DEA se ha tenido en cuenta la efectividad a trav&eacute;s de la imposici&oacute;n de l&iacute;mites a los factores de ponderaci&oacute;n.<SUP>24</SUP>      <P>Se imponen restricciones a los instrumentos de ponderaci&oacute;n y se a&ntilde;aden las condiciones siguientes:     <CENTER><A HREF="/img/revistas/aci/v9ns/f1008100.gif"><IMG SRC="/img/revistas/aci/v9ns/f1008100.gif" HEIGHT=132 WIDTH=337 BORDER=0></a></CENTER> &nbsp;     
<BR>&nbsp;      ]]></body>
<body><![CDATA[<P>donde c1 y c2 son constantes. Los l&iacute;mites de 40 y 60 % para cada insumo y de 25 a 40 % para cada producto, conduce a una disminuci&oacute;n general del grado de eficiencia. La criminolog&iacute;a desciende al 50 % y la f&iacute;sica al 46 %. Sin embargo, el derecho escol&aacute;stico, la kinestasia y la historia permanecen el 100 %.      <P>Por otra parte, la estomatolog&iacute;a contin&uacute;a en el 26 % y la gimn&aacute;stica y el deporte se mantienen en el 22 %, por lo que siguen siendo las m&aacute;s deficientes. <H4> Conclusi&oacute;n de la segunda parte</H4> Se ha demostrado que la eficiencia y la efectividad pueden tenerse en cuenta al comparar el desempe&ntilde;o de una universidad. El DEA es un m&eacute;todo adecuado para alcanzar este prop&oacute;sito. Una forma de considerar la efectividad es imponer l&iacute;mites a las ponderaciones de insumos y productos. Este estudio (como otros similares) ha mostrado claramente la potencialidad del DEA en los estudios de desempe&ntilde;o.<SUP>25-27</SUP> <H4> REFERENCIAS BIBLIOGR&Aacute;FICAS</H4>  <OL>     <!-- ref --><LI> Van Raan AFJ, ed. Handbook of quantitative studies of science and technology. Amsterdam: Elsevier, 1988</LI>      <!-- ref --><LI> Egghe L Rousseau R. Introduction to infometrics: quantitative methods in library, documentation and information science. Amsterdam: Elsevier, 1990.    </LI>      <!-- ref --><LI> Wallace D P. A solution in search of a problem: bibliometrics &amp; libraries. Libr J 1987; (112): 43-7.    </LI>      <!-- ref --><LI> Rousseau R. A scientometric study of the scientific publications of LUC Period 1981-1993: report [Flanders], 1995.    </LI>      <!-- ref --><LI> De Bruin R Kint A Luwel M. A study of research evaluation and planning: the University of Ghent Res Evaluat, 1993; (3):35 -41.    </LI>      <!-- ref --><LI> De Bruin R, Moed H F, Spruyt E. Antwerpse analyses. Antwerpen: CWTS. Leiden en UIA, 1993.    </LI>      <!-- ref --><LI> Moed H F, Burger W J M, Frankfort J G. The use of bibliometric data for the measurement of university research performance. Res Policy 1985;(4):131-49.    </LI>      <LI> Oppenheim C. The correlation between citation counts and the 1992 research assessment exercise ratings for British library and information science university departments.</LI>  <OL>     <LI> J Document 1995; (51):18-27.</LI>     </OL>      <!-- ref --><LI> Abelson P. Mechanisms for evaluating scientific information and the role of peer review J Am Soci Inform Sci 1990; (41):216-22.    </LI>      ]]></body>
<body><![CDATA[<!-- ref --><LI> Wallmark JT, Sedig K G. Quality of research measured by citation method and by peer review a comparison. IEEE Trans Eng Manag 1986; (33):218-22.    </LI>      <!-- ref --><LI> Garfield E. How to use citation analysis for faculty evaluations and when isit relevant. Part I Curr Contents 1983;(44):</LI>      <!-- ref --><LI> Arunachalam S. Science in the European Community the extent of collaboration. Curr Sci 1992; (63):56-8.    </LI>      <!-- ref --><LI> Rousseau R. Citation distribution of pure mathematics journals. En: Egghe L, Rousseau R, eds. Informetrics 87/88 249-62.    </LI>      <!-- ref --><LI> Van Hooydonk G, Gevaert R, Milisproost G. A bibliotheconomic analysis of the impact factores of scientific disciplines. Scientometrics 1994; (30):65-81.    </LI>      <!-- ref --><LI> Rousseau R. Evolution d? importantes revues pharmacologiques. Rev Fr Bibliom&eacute;trie, n. 5, p. 102-17, 1989.    </LI>      <!-- ref --><LI> Rousseau R, Spinak, E. Do a field list of internationally visible journals and their journal impact factors depend on the initial set of journals? A research proposal. J Document 1996; (52):449-56.    </LI>      <!-- ref --><LI> Cole S, Cole J R. Scientific output and recognition: a study in the operation of the reward system in science. Am Sociol Rev 1967; (32):377-90.    </LI>      <!-- ref --><LI> Collins MP, Berge ZL. IPCT Journal: a case study of an electronic journal on the internet J Am Soci Inform Sci 1994; (45):771-6.    </LI>      <!-- ref --><LI> Norman M, Stoker B. Data envelopment analysis: the assessment of performance. Chicester: Wiley 1991.    </LI>      <!-- ref --><LI> Charnes A, Cooper W W, Rhodes E. Measuring the efficiency of decision making units. Eur J Operat Res 1978; 2(6):429-44.    </LI>      <!-- ref --><LI> Arcelus F J, Coleman D F. An efficiency review of university departments. Int J Syst Sci 1997; 28(7):721-9.    </LI>      <!-- ref --><LI> Beasley J E. Determining teaching and research efficiencies. J Operat Res Soc n. 46. p 1995; (45):441-52.    </LI>      <!-- ref --><LI> Degraeve Z, Lambrechts M, Van Puymbroeck V. E en vergelijkende prestatiestudie van de departementen van de Katholieke Universiteit Leuven. Tijdsch Econ Manag 1996; (41):165-93.    </LI>      <!-- ref --><LI> Pedraja-Chaparro F, Salinas Jimenez J, Smith P On the rle of weight restictions in data envelopment analysis. J Product Anal 1997; (8):215-30.    </LI>      <!-- ref --><LI> Johnes G, Johnes J. Apples and oranges: the aggregation problem in publications analysis Scientometrics 1992; (25):353-65.    </LI>      <!-- ref --><LI> Rousseau S, Rousseau R. Data envelopment analysis as a tool for constructin scientometric indicators. Scientometrics 1997; (40):45-56.    </LI>      <!-- ref --><LI> ___ Measuring the scientific wealth of European nations: taking effectiveness into account Scientometrics 1998; (42):75-87.    </LI>     </OL> <B>Ronald Rousseau</B>      <P>ronald.rousseau @kh.khbo.be <H4> Abstract</H4> This article consists of two parts: the first part describes the evaluation of a small university it is based on scientometric data and aims mainly at the evaluation of internationally visible research. The second part shows how an econometric method (DEA: data enveloping analysis) can be used to include teaching and other aspects, e.g. fund raising, into the evaluation. Both approaches show how a body of bibliometric, scientometric and econometric theory can be applied to real world problems.      <P>Subject headings: SCIENTOMETRICS; RESEARCH; EVALUATION; ECONOMETRICS/methods; IMPACT FACTOR; CITATION ANALYSIS; SCIENTIFIC PRODUCTION; ELECTRONIC PUBLISHING; BIBLIOMETRICA UNIVERSITIES/efficiency; UNIVERSITIES/effectiveness     <BR>&nbsp;     <BR>&nbsp;      ]]></body>
<body><![CDATA[<P><A NAME="*"></A>* Trabajo presentado en el Seminario sobre Evaluaci&oacute;n de la Producci&oacute;n Cient&iacute;fica, realizado en S&acirc;o Paulo por el Proyecto SciELO, del 4 al 6 de marzo de 1998.     <BR>1 UIA, Universiteitsplein 1, Wilrijk, Belgium.      ]]></body><back>
<ref-list>
<ref id="B1">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Van Raan]]></surname>
<given-names><![CDATA[AFJ]]></given-names>
</name>
</person-group>
<source><![CDATA[Handbook of quantitative studies of science and technology]]></source>
<year>1988</year>
<publisher-loc><![CDATA[Amsterdam ]]></publisher-loc>
<publisher-name><![CDATA[Elsevier]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B2">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Egghe]]></surname>
<given-names><![CDATA[L]]></given-names>
</name>
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<source><![CDATA[Introduction to infometrics: quantitative methods in library, documentation and information science]]></source>
<year>1990</year>
<publisher-loc><![CDATA[Amsterdam ]]></publisher-loc>
<publisher-name><![CDATA[Elsevier]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B3">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Wallace]]></surname>
<given-names><![CDATA[D P]]></given-names>
</name>
</person-group>
<source><![CDATA[A solution in search of a problem: bibliometrics & libraries]]></source>
<year>1987</year>
<page-range>43-7</page-range><publisher-name><![CDATA[Libr J]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B4">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<source><![CDATA[A scientometric study of the scientific publications of LUC Period 1981-1993]]></source>
<year>1995</year>
<publisher-name><![CDATA[Report Flanders]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B5">
<nlm-citation citation-type="">
<person-group person-group-type="author">
<name>
<surname><![CDATA[De Bruin]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
<name>
<surname><![CDATA[Kint]]></surname>
<given-names><![CDATA[A]]></given-names>
</name>
<name>
<surname><![CDATA[Luwel]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
</person-group>
<source><![CDATA[A study of research evaluation and planning: the University of Ghent Res Evaluat]]></source>
<year>1993</year>
<page-range>35 -41</page-range></nlm-citation>
</ref>
<ref id="B6">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[De Bruin]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
<name>
<surname><![CDATA[Moed]]></surname>
<given-names><![CDATA[H F]]></given-names>
</name>
<name>
<surname><![CDATA[Spruyt]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
</person-group>
<source><![CDATA[Antwerpse analyses]]></source>
<year>1993</year>
<publisher-name><![CDATA[Leiden en UIA]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B7">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Moed]]></surname>
<given-names><![CDATA[H F]]></given-names>
</name>
<name>
<surname><![CDATA[Burger]]></surname>
<given-names><![CDATA[W J M]]></given-names>
</name>
<name>
<surname><![CDATA[Frankfort]]></surname>
<given-names><![CDATA[J G]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[The use of bibliometric data for the measurement of university research performance]]></article-title>
<source><![CDATA[Res Policy]]></source>
<year>1985</year>
<numero>4</numero>
<issue>4</issue>
<page-range>131-49</page-range></nlm-citation>
</ref>
<ref id="B8">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Oppenheim]]></surname>
<given-names><![CDATA[C]]></given-names>
</name>
</person-group>
<source><![CDATA[The correlation between citation counts and the 1992 research assessment exercise ratings for British library and information science university departments]]></source>
<year>1995</year>
<page-range>18-27</page-range><publisher-name><![CDATA[J Document]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B9">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Abelson]]></surname>
<given-names><![CDATA[P]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Mechanisms for evaluating scientific information and the role of peer review]]></article-title>
<source><![CDATA[J Am Soci Inform Sci]]></source>
<year>1990</year>
<numero>41</numero>
<issue>41</issue>
<page-range>216-22</page-range></nlm-citation>
</ref>
<ref id="B10">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Wallmark]]></surname>
<given-names><![CDATA[JT]]></given-names>
</name>
<name>
<surname><![CDATA[Sedig]]></surname>
<given-names><![CDATA[K G]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Quality of research measured by citation method and by peer review a comparison]]></article-title>
<source><![CDATA[IEEE Trans Eng Manag]]></source>
<year>1986</year>
<numero>33</numero>
<issue>33</issue>
<page-range>218-22</page-range></nlm-citation>
</ref>
<ref id="B11">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Garfield]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
</person-group>
<source><![CDATA[How to use citation analysis for faculty evaluations and when isit relevant]]></source>
<year>1983</year>
<publisher-name><![CDATA[Curr Contents]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B12">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Arunachalam]]></surname>
<given-names><![CDATA[S]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Science in the European Community the extent of collaboration]]></article-title>
<source><![CDATA[Curr Sci]]></source>
<year>1992</year>
<numero>63</numero>
<issue>63</issue>
<page-range>56-8</page-range></nlm-citation>
</ref>
<ref id="B13">
<nlm-citation citation-type="book">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<source><![CDATA[Citation distribution of pure mathematics journals]]></source>
<year></year>
<page-range>249-62</page-range><publisher-name><![CDATA[Informetrics]]></publisher-name>
</nlm-citation>
</ref>
<ref id="B14">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Van Hooydonk]]></surname>
<given-names><![CDATA[G]]></given-names>
</name>
<name>
<surname><![CDATA[Gevaert]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
<name>
<surname><![CDATA[Milisproost]]></surname>
<given-names><![CDATA[G. A]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Bibliotheconomic analysis of the impact factores of scientific disciplines]]></article-title>
<source><![CDATA[Scientometrics]]></source>
<year>1994</year>
<numero>30</numero>
<issue>30</issue>
<page-range>65-81</page-range></nlm-citation>
</ref>
<ref id="B15">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Evolution d? importantes revues pharmacologiques]]></article-title>
<source><![CDATA[Rev Fr Bibliométrie]]></source>
<year>1989</year>
<numero>n. 5</numero>
<issue>n. 5</issue>
<page-range>102-17</page-range></nlm-citation>
</ref>
<ref id="B16">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
<name>
<surname><![CDATA[Spinak]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Do a field list of internationally visible journals and their journal impact factors depend on the initial set of journals? A research proposal]]></article-title>
<source><![CDATA[J Document]]></source>
<year>1996</year>
<numero>52</numero>
<issue>52</issue>
<page-range>449-56</page-range></nlm-citation>
</ref>
<ref id="B17">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Cole]]></surname>
<given-names><![CDATA[S]]></given-names>
</name>
<name>
<surname><![CDATA[Cole]]></surname>
<given-names><![CDATA[J R]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Scientific output and recognition: a study in the operation of the reward system in science]]></article-title>
<source><![CDATA[Am Sociol Rev]]></source>
<year>1967</year>
<numero>32</numero>
<issue>32</issue>
<page-range>377-90</page-range></nlm-citation>
</ref>
<ref id="B18">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Collins]]></surname>
<given-names><![CDATA[MP]]></given-names>
</name>
<name>
<surname><![CDATA[Berge]]></surname>
<given-names><![CDATA[ZL]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[IPCT Journal: a case study of an electronic journal on the internet]]></article-title>
<source><![CDATA[J Am Soci Inform Sci]]></source>
<year>1994</year>
<numero>45</numero>
<issue>45</issue>
<page-range>771-6</page-range></nlm-citation>
</ref>
<ref id="B19">
<nlm-citation citation-type="">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Norman]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
<name>
<surname><![CDATA[Stoker]]></surname>
<given-names><![CDATA[B]]></given-names>
</name>
</person-group>
<source><![CDATA[Data envelopment analysis: the assessment of performance]]></source>
<year>1991</year>
<publisher-loc><![CDATA[Wiley ]]></publisher-loc>
</nlm-citation>
</ref>
<ref id="B20">
<nlm-citation citation-type="">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Charnes]]></surname>
<given-names><![CDATA[A]]></given-names>
</name>
<name>
<surname><![CDATA[Cooper]]></surname>
<given-names><![CDATA[W W]]></given-names>
</name>
<name>
<surname><![CDATA[Rhodes]]></surname>
<given-names><![CDATA[E]]></given-names>
</name>
</person-group>
<source><![CDATA[]]></source>
<year></year>
</nlm-citation>
</ref>
<ref id="B21">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Arcelus]]></surname>
<given-names><![CDATA[F J]]></given-names>
</name>
<name>
<surname><![CDATA[Coleman]]></surname>
<given-names><![CDATA[D F]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[An efficiency review of university departments]]></article-title>
<source><![CDATA[Int J Syst Sci]]></source>
<year>1997</year>
<volume>28</volume>
<numero>7</numero>
<issue>7</issue>
<page-range>721-9</page-range></nlm-citation>
</ref>
<ref id="B22">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Beasley]]></surname>
<given-names><![CDATA[J E]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Determining teaching and research efficiencies]]></article-title>
<source><![CDATA[J Operat Res Soc]]></source>
<year>1995</year>
<numero>45</numero>
<issue>45</issue>
<page-range>441-52</page-range></nlm-citation>
</ref>
<ref id="B23">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Degraeve]]></surname>
<given-names><![CDATA[Z]]></given-names>
</name>
<name>
<surname><![CDATA[Lambrechts]]></surname>
<given-names><![CDATA[M]]></given-names>
</name>
<name>
<surname><![CDATA[Van Puymbroeck]]></surname>
<given-names><![CDATA[V. E]]></given-names>
</name>
</person-group>
<article-title xml:lang="nl"><![CDATA[En vergelijkende prestatiestudie van de departementen van de Katholieke Universiteit Leuven]]></article-title>
<source><![CDATA[Tijdsch Econ Manag]]></source>
<year>1996</year>
<numero>41</numero>
<issue>41</issue>
<page-range>165-93</page-range></nlm-citation>
</ref>
<ref id="B24">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Pedraja-Chaparro]]></surname>
<given-names><![CDATA[F]]></given-names>
</name>
<name>
<surname><![CDATA[Salinas Jimenez]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
<name>
<surname><![CDATA[Smith]]></surname>
<given-names><![CDATA[P]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[On the rle of weight restictions in data envelopment analysis]]></article-title>
<source><![CDATA[J Product Anal]]></source>
<year>1997</year>
<numero>8</numero>
<issue>8</issue>
<page-range>215-30</page-range></nlm-citation>
</ref>
<ref id="B25">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Johnes]]></surname>
<given-names><![CDATA[G]]></given-names>
</name>
<name>
<surname><![CDATA[Johnes]]></surname>
<given-names><![CDATA[J]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Apples and oranges: the aggregation problem in publications analysis]]></article-title>
<source><![CDATA[Scientometrics]]></source>
<year>1992</year>
<numero>25</numero>
<issue>25</issue>
<page-range>353-65</page-range></nlm-citation>
</ref>
<ref id="B26">
<nlm-citation citation-type="journal">
<person-group person-group-type="author">
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[S]]></given-names>
</name>
<name>
<surname><![CDATA[Rousseau]]></surname>
<given-names><![CDATA[R]]></given-names>
</name>
</person-group>
<article-title xml:lang="en"><![CDATA[Data envelopment analysis as a tool for constructin scientometric indicators]]></article-title>
<source><![CDATA[Scientometrics]]></source>
<year>1997</year>
<numero>40</numero>
<issue>40</issue>
<page-range>45-56</page-range></nlm-citation>
</ref>
<ref id="B27">
<nlm-citation citation-type="journal">
<article-title xml:lang="en"><![CDATA[Measuring the scientific wealth of European nations: taking effectiveness into account]]></article-title>
<source><![CDATA[Scientometrics]]></source>
<year>1998</year>
<month>;</month>
<numero>42</numero>
<issue>42</issue>
<page-range>75-87</page-range></nlm-citation>
</ref>
</ref-list>
</back>
</article>
