Use este identificador para citar ou linkar para este item: https://rima.ufrrj.br/jspui/handle/20.500.14407/9420
Tipo do documento: Tese
Título: Catástrofes naturais no estado do Rio de Janeiro baseado em dados climáticos e produtos orbitais: uma abordagem estatística
Título(s) alternativo(s): Natural disasters in the state of Rio de Janeiro based on climatic data and orbital products: a statistical approach
Autor(es): Gois, Givanildo de
Orientador(a): Delgado, Rafael Coll
Primeiro coorientador: Oliveira Júnior, José Francisco de
Primeiro membro da banca: Oliveira Júnior, José Francisco de
Segundo membro da banca: Santos, Ednaldo Oliveira dos
Terceiro membro da banca: Heilbron Filho, Paulo Fernando Lavalle
Quarto membro da banca: Pimentel, Luiz Cláudio Gomes
Quinto membro da banca: Cataldi, Márcio
Palavras-chave: Time series;Statistical Tests;Drought;Meteorological Systems;Climatic Variability;Série temporal;Testes estatísticos;Seca;Sistemas meteorológicos;Variabilidade climática
Área(s) do CNPq: Geociências
Idioma: por
Data do documento: 22-Fev-2017
Editor: Universidade Federal Rural do Rio de Janeiro
Sigla da instituição: UFRRJ
Departamento: Instituto de Florestas
Programa: Programa de Pós-Graduação em Ciências Ambientais e Florestais
Citação: GOIS, Givanildo de. Catástrofes naturais no estado do Rio de Janeiro baseado em dados climáticos e produtos orbitais: uma abordagem estatística. 2017. 312 f. Tese (Doutorado em Ciências Ambientais e Florestais, Conservação da Natureza) - Instituto de Florestas, Universidade Federal Rural do Rio de Janeiro, Seropédica, 2017.
Resumo: Há poucos estudos baseados nas áreas de Climatologia Física e Estatística aplicadas ao estado do Rio de Janeiro (ERJ), voltados para catástrofes naturais (secas, enchentes e desertificação) baseado em dados climáticos e produtos orbitais. As séries temporais usadas foram de 47 anos (1967 a 2013) e 71 anos (1943 a 2013). oriundas de 100 estações pertencentes à ANA, CPRM, INMET, SERLA e LIGHT. Estas séries (dados brutos) apresentavam falhas e foram preenchidas com produto 3B43 do satélite TRMM (1998 a 2013) e com as normais climatológicas do INMET (1947 a 1997). Para tanto elas foram submetidas à análise descritiva, exploratória, testes paramétricos (Shapiro-Wilks-SW e Barlett-B), não paramétricos (Mann-Kendall-MK, Método de Sen -Se, Pettitt e SOCUM), transformação Box Cox e análise de agrupamento (AA). Além disso, foram usados dados mensais do Enhanced Vegetation Index (EVI2) entre 2001-2012 com objetivo de verificar tendência de aumento e diminuição da vegetação no ERJ pelos testes não paramétricos e os cenários futuros pela Cadeia de Markov. A estimativa da temperatura média mensal do ar (Tmi) no ERJ, foi baseada em séries observadas de reanálises ou através da composição de ambas e, sendo ajustadas aos modelos de regressão linear múltipla (RLM) e simples (RLS) baseado em três bases: Bases 1 (Reanálise/NCEP), 2 (INMET/NCDC) e 3 (Reanálise/NCEP e INMET/NCDC) entre 1948 a 2015. A análise descritiva mostrou uma probabilidade de ocorrência acima de 75%, os testes SW e B apresentaram um baixo nível de significância para p-valor (α < 5%) e rejeitou-se a hipótese de normalidade e homogeneidade de variâncias nas estações. A transformação Box Cox foi eficaz na estabilização da normalidade dos resíduos e homogeneidade de variância da série temporal de chuva mensal das regiões Médio Paraíba e Serrana, com exceção do Noroeste Fluminense. A alta variabilidade de γ (0,326 a 0,565) é devido à maioria das estações encontram-se na vertente da Serra do Mar voltada para o continente, onde o regime de chuva é influenciado pela interação da topografia com sistemas locais e sinóticos e tendo apenas uma estação na vertente da Serra do Mar voltada para o Oceano Atlântico com influência do ambiente costeiro e dos sistemas de mesoescala e sinóticos, na série de 71 anos. Com base na AA foram escolhidas 11 estações com normalidade ou homogeneidade de variância, caracterizando dois grupos homogêneos pluviométricos (G1 e G2) no ERJ. Para a análise de tendência, o teste MK e método Se mostraram a presença de tendências não significativas de aumento das chuvas nas escalas anual e sazonal, enquanto que o Pettitt e o SOCUM foram eficientes quanto à identificação dos anos de possíveis mudanças abruptas não significativas ou insignificantes na série temporal de 71 anos. O teste de SOCUM identificou 39 eventos de ENOS nos grupos G1 e G2, os maiores percentuais nos eventos neutros (48,72%) e os menores nos El Niño moderado e La Niña fraca e forte (5,13%). Outro resultado encotrado foi a existência de uma tendência insignificante de crescimento da vegetação em 75%, seguido de uma tendência significativa de diminuição em 25% das regiões políticas do ERJ. Já o teste de Pettitt mostrou a existência de mudanças bruscas não significativas (NS), ambos de crescimento e diminuição da vegetação em 6 regiões e significativas (S) de diminuição em 2 regiões. Os prognósticos de mudanças com variação de 1 a 2 anos em intervalos constante (3 a 10 anos) foram observados em todos os cenários futuros. As Bases 1 e 2 apresentaram o maior número de coeficientes significativos, segundo O teste F para p-valor < 0,05, com exceção para a Base 3. A variável latitude (β1) foi mais significativa, seguido da altitude (β3) em todas as Bases. Foram encontrados valores significativos de r2 (>0,80) e r (> 0,90) na Base 2 e na Base 1 com r2 (>0,50) e r (>0,70). Os modelos de RLM ajustados explicaram a maior parte da variabilidade espacial da Tmi para o ERJ, enquanto que os testes paramétricos de SW e B aplicados a série temporal mensal de chuva sem tratamento e à variável reduzida a distribuição normal padronizada a 95% de probabilidade apontaram para as hipóteses de não-normalidade e não-homogeneidade da série temporal. A alta sensibilidade da série temporal de chuva ao teste B foram constatada nas oito regiões políticas do ERJ, devido ao rigor do teste. Os coeficientes de lambda da transformação Box Cox aplicada às séries temporais mensais de chuva para dados sem tratamento e a variável reduzida da distribuição normal padronizada não apresentam eficiência na estabilização da homogeneidade das variâncias. Confirmado pelo teste de B, em 99,58% e 100% dos eventos repetitivamente. A eficiência constatada apena na estabilização da normalidade em 81,33% e 81,58% das frequências acumuladas mensais dos dados sem tratamento e da variável reduzida. Além disso observa-se que o desempenho moderado dos métodos do SPI com dados sem tratamento e com os transformados pela Box Cox versus SPI com dados da variável reduzida transformada pela Box Cox fica evidente no SPI-1, que mostra a presença de variações significativas dos parâmetros estatísticos nas regiões Norte, Costa Verde, Baixada Litorânea e Metropolitana, seguidos de baixo desempenho do coeficiente r2 nas regiões do ERJ. Já o SPI-12 mostrou uma alta dispersão significativa do coeficiente r, seguido de um desempenho baixo a muito baixo, e baixos valores do coeficiente r2, indicando fraca precisão das estimativas dos índices SPI em ambos os métodos. Os erros EPE e RMSE não apresentaram variações significativas, nas durações de 1 e 12 meses. Contudo costatase uma alta variação dos coeficientes r e c com o índice d no SPI-1 mês, ressaltasse que um péssimo desempenho dos métodos com dados sem tratamento e com transformados pela Box Cox versus SPI com dados da variável reduzida transformada pela Box Cox, para o SPI-12 foi verificado nas regiões do ERJ. Além disso, as análises temporal/anual dos SPI-1 e 12 nas regiões mostra alta variabilidade e maior intensidade do SPI-1, ao contrário do SPI-12. No tocante a análise temporal dos SPI–1 e SPI–12 nas regiões do ERJ verifica-se similaridade quanto ao comportamento dos SPI–1 e SPI–12, onde as maiores e menores frequências de eventos de secas categorizadas como moderadamente, muito e extremamente seco foram registradas nas décadas 1970, 1980, 1990, 2000 e no período 2010/2013, com exceção da década de 1960. Eventos de ENOS foram observados no período de estudo. O teste de Pettitt identificaram os anos de mudanças do índice SPI-12, em 1977 (El Niño fraco), 1984 (La Niña fraca), 1989 (Neutro), 1992 (Neutro) e 2002 (El Niño moderado). Prevaleceu a categoria próximo ao normal nas regiões Norte Fluminense, Baixadas Litorâneas e Costa Verde, seguido nas demais regiões de Governo em algumas porções (SW), (SSW) (SE) e (NE). A categoria moderadamente seca ocorreu nas regiões, Metropolitana, Centro Sul Fluminense, Médio Paraíba, Serrana e Noroeste Fluminense enas demais nas porções (SW), (NW) e (NNE) do ERJ. Em suma, a aplicação dos testes estatísticos, paramétricos e não-paramétricos, cadeia de markov, análise multivariada são ferramentas eficientes na avaliação das catástrofes naturais no ERJ.
Abstract: Few studies were based on the areas of Physical and Statistical Climatology applied to the state of Rio de Janeiro (ERJ), focused on natural disasters (droughts, floods and desertification) based on climatic data and orbital products. The time series used were 47 years (1967 to 2013) and 71 years (1943 to 2013). Both series come from 100 existing stations belonging to ANA, CPRM, INMET, SERLA and LIGHT. The temporal series (raw data) were faulty and were filled with TRMM satellite 3B43 product (1998 to 2013) and INMET climatological norm (1947 to 1997). The series were submitted to descriptive, exploratory, parametric (Shapiro-Wilks-SW and Barlett-B), non-parametric tests (Mann-Kendall-MK, Sen-Se, Pettitt and SOCUM), Box Cox transformation and analysis Grouping (AA). In addition, monthly data from the Enhanced Vegetation Index (EVI2) between 2001- 2012 with the objective of verifying the trend of increase and decrease of vegetation in the ERJ by non-parametric tests and future scenarios by the Markov Chain. Estimation of the monthly mean air temperature (Tmi) in the ERJ based on observed series and reanalyses or the composition of both, and being adjusted to the three-base linear multiple regression (RLM) and linear regression models: Bases 1 Reanalysis / NCEP), 2 (INMET / NCDC) and 3 (Reanalysis / NCEP and INMET / NCDC) between 1948 and 2015. Descriptive analysis showed a probability of occurrence above 75%. The SW and B tests presented a low significance level for p-value (α < 5%) and the hypothesis of normality and homogeneity of variances in the stations was rejected. The Box Cox transformation was effective in stabilizing the residue normality and homogeneity of variance of the monthly rainfall series of the Middle Paraíba and Serrana regions, except for the Northwest Fluminense. The high variability of γ (0.326 to 0.565) is due to the fact that most of the stations are in the Sierra do Mar slope facing the mainland, where rainfall is influenced by the interaction of topography with local and synoptic systems, only one season In the Serra do Mar slope facing the Atlantic Ocean with influence of the coastal environment and the mesoscale and synoptic systems, in the series of 71 years. Based on AA were chosen 11 stations with normality or homogeneity of variance characterized two homogeneous pluviometric groups (G1 and G2) in the ERJ. For the trend analysis, the MK test and method were shown the presence of non significant trends of rainfall increase in the annual and seasonal scales. Pettitt and SOCUM were efficient in identifying the years of possible non-significant or insignificant abrupt changes in the 71-year time series. The SOCUM test identified 39 ENSO events in groups G1 and G2. The highest percentage in the neutral events (48.72%) and the lowest in the moderate El Niño and La Niña weak and strong (5.13%). An insignificant trend of vegetation growth is observed at 75%, followed by a significant downward trend of 25% of the ERJ Government regions. The Pettitt test showed the existence of abrupt changes not significant (NS), both growth and vegetation decrease in 6 regions and significant (S) decrease in 2 regions. The predictions of changes ranging from 1 to 2 years at constant intervals (3 to 10 years) were observed in all future scenarios. Bases 1 and 2 presented the highest number of significant coefficients, according to the F test for (p-value <0.05), the exception was Base 3. The latitude variable (β1) was more significant, followed by altitude (β3 ) In all Bases. Significant values of r2 (> 0.80) and r (> 0.90) in Base 2 and Base 1 with r2 (> 0.50) and r (> 0.70). The adjusted RLM models explained most of the spatial variability of Tmi for the ERJ. The parametric tests of SW and B applied to the monthly rainfall series without treatment and to the reduced variable the normal distribution standardized to 95% of probability point to the hypotheses of non-normality and neither homogeneity of the time series. The high sensitivity of the rainfall series to the B test were observed in the eight Government regions, due to the rigor of the test. The lambda coefficients of the Box Cox transformation applied to the monthly rainfall series for data without treatment and the reduced variable of the standardized normal distribution do not present efficiency in the stabilization of the homogeneity of the variances. Confirmed by the test of B, in 99.58% and 100% of the events. The efficiency found only in the stabilization of normality in 81.33% and 81.58% of the monthly cumulative frequencies of data without treatment and the reduced variable. Moderate performance of SPI methods with untreated and Box Cox versus SPI-transformed data with reduced-box data transformed by Box Cox is evident in SPI-1, which shows the presence of significant variations of statistical parameters in the Norte, Costa Verde, Baixada Litorânea e Metropolitana shortage, followed by low performance of the r2 coefficient in the ERJ regions. SPI-12 shows a significant high dispersion of the coefficient r, followed by a low to very low performance, and a low coefficient r2. This indicates poor accuracy of SPI index estimates in both methods. The EPE and RMSE errors do not present significant variations, in the durations of 1 and 12 months. A high variation of the rec coefficients with the index d in the SPI-1 month is verified, a poor performance of the methods with data without treatment and with transformed by Box Cox versus SPI with data of the reduced variable transformed by Box Cox, for the SPI-12 Was verified in the ERJ regions. The temporal / annual analyzes of SPI-1 and 12 in the regions show a high variability and greater intensity of SPI-1, unlike SPI-12. SPI-1 and SPI-12 in the regions show similarity in the behavior of SPI-1 and SPI-12, where the highest and lowest frequencies of droughts categorized as moderately, extremely and extremely dry were recorded in the 70, 80, 90, 2000 and in the period 2010/2013, except for the 60. Events of ENOS were observed in the study period. The Pettitt test identified the years of changes in the SPI-12 index, in 1977 (El Niño weak), 1984 (La Niña weak), 1989 (Neutral), 1992 (Neutral) and 2002 (Moderate El Niño). The prevailing category was close to normal in the Norte Fluminense, Baixadas Litorâneas and Costa Verde regions, followed in the other regions of Government in some parts (SW), (SSW) (SE) and (NE). The moderately dry category occurred in the regions, Metropolitana, Centro Sul Fluminense, Médio Paraíba, Serrana and NoroesteFluminense, and the other parts in the (SW), (NW) and (NNE) portions of the ERJ. In short, the application of statistical, parametric and non-parametric tests, chain of markov, multivariate analysis are efficient tools in the evaluation of natural disasters in the ERJ.
URI: https://rima.ufrrj.br/jspui/handle/20.500.14407/9420
Aparece nas coleções:Doutorado em Ciências Ambientais e Florestais

Se for cadastrado no RIMA, poderá receber informações por email.
Se ainda não tem uma conta, cadastre-se aqui!

Arquivos associados a este item:
Arquivo Descrição TamanhoFormato 
2017 - Givanildo de Gois.pdf6.32 MBAdobe PDFThumbnail
Abrir


Os itens no repositório estão protegidos por copyright, com todos os direitos reservados, salvo quando é indicado o contrário.